II.6Документация и сопровождение разработки

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-second-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-first-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-first-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-last-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-last-third-sft-seed4-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-last-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-second-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-first-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-inoculation-prompting-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-last-third-sft-seed4-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-last-third-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-second-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

OpenAgent-i1-GGUF — это набор GGUF-квантизованных вариантов модели OpenAgent, созданной на базе OrionLLM/Terminus-Qwen3-8b и обученной с использованием датасета OrionLLM/OpenAgentInstruct. Квантизацию выполнил mradermacher; в метаданных также указана компания nethype GmbH как предоставившая инфраструктуру для этой работы. Модель ориентирована на текстовую генерацию, агентские сценарии, рассуждения, работу с терминалом и задачи, связанные с разработкой программного обеспечения, включая SWE-bench. Поддерживаемый язык — английский. Это текстовая модель примерно на 8 миллиардов параметров, представленная в формате GGUF и доступная в вариантах квантизации от IQ1_S до Q6_K. Размер файлов составляет примерно от 2,2 до 6,8 ГБ; README рекомендует Q4_K_M как быстрый вариант и Q4_K_S как компромисс между размером, скоростью и качеством. Более агрессивная квантизация уменьшает требования к памяти, но может заметно снижать качество, а IQ-форматы иногда предпочтительнее аналогичных по размеру вариантов. Модель предназначена для локального запуска в совместимом ПО, однако конкретные требования к контексту, поддерживаемые модальности помимо текста, производительность и результаты бенчмарков в README не указаны. Распространяется по лицензии Apache-2.0.

Карточка модели OpenBuddy/openbuddy-codellama2-34b-v11.1-bf16 на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-llama2-13b-v11.1-bf16, поэтому описание составлено по ней. OpenBuddy — многоязычная чат-модель на базе LLaMA 2, представленная в варианте с 13 млрд параметров и весами bf16. Она предназначена для диалогов и генерации текста; в метаданных указаны языки китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Модель использует плотную архитектуру LlamaForCausalLM, работает через Transformers и поддерживает контекст до 4096 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. README предупреждает, что ответы могут быть ошибочными, вредными или оскорбительными, поэтому модель не следует применять в критически важных сценариях, включая медицинские, финансовые и юридические решения, или для управления потенциально опасными системами. Использование зависит от лицензии Meta на LLaMA: требуется одобрение Meta и соответствие её условиям.

OpenBuddy — многоязычная чат-модель на базе LLaMA 2, представленная в варианте с 13 млрд параметров и весами bf16. Она предназначена для диалогов и генерации текста; в метаданных указаны языки китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Модель использует плотную архитектуру LlamaForCausalLM, работает через Transformers и поддерживает контекст до 4096 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. README предупреждает, что ответы могут быть ошибочными, вредными или оскорбительными, поэтому модель не следует применять в критически важных сценариях, включая медицинские, финансовые и юридические решения, или для управления потенциально опасными системами. Использование зависит от лицензии Meta на LLaMA: требуется одобрение Meta и соответствие её условиям.

Карточка модели OpenBuddy/openbuddy-llama2-70b-v10.1-bf16 на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-llama2-13b-v11.1-bf16, поэтому описание составлено по ней. OpenBuddy — многоязычная чат-модель на базе LLaMA 2, представленная в варианте с 13 млрд параметров и весами bf16. Она предназначена для диалогов и генерации текста; в метаданных указаны языки китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Модель использует плотную архитектуру LlamaForCausalLM, работает через Transformers и поддерживает контекст до 4096 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста на поддерживаемых языках. README предупреждает, что ответы могут быть ошибочными, вредными или оскорбительными, поэтому модель не следует применять в критически важных сценариях, включая медицинские, финансовые и юридические решения, или для управления потенциально опасными системами. Использование зависит от лицензии Meta на LLaMA: требуется одобрение Meta и соответствие её условиям.

OpenBuddy/openbuddy-llama3-70b-v21.2-32k — многоязычная чат-модель, разработанная OpenBuddy на базе Meta Llama 3 70B Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для диалога и генерации текста. В карточке заявлена поддержка английского и китайского; метаданные также перечисляют французский, немецкий, японский, корейский, итальянский и финский языки. Указанный в названии вариант 32k, однако метаданные сообщают нативный контекст в 131 072 токена. Модель подходит для ответов на вопросы и других диалоговых сценариев. Для использования автор рекомендует быстрый токенизатор Transformers; карточка предупреждает, что некоторые альтернативные реализации могут некорректно обрабатывать специальные токены. Лицензия указана как other, а README приводит условия OpenBuddy и отсылает к Acceptable Use Policy. Авторы предупреждают, что ответы могут быть ошибочными или вредными, и не рекомендуют применять модель в критических и высокорисковых ситуациях.

TheBloke/openbuddy-mixtral-8x7b-v15.1-GGUF — это набор квантованных моделей в формате GGUF для OpenBuddy Mixtral 8X7B V15.1, разработанной командой OpenBuddy и квантованной TheBloke. Модель предназначена для генерации текста и диалогового взаимодействия с пользователем, включая ответы на вопросы, объяснение информации и выполнение общих ассистентских задач. В основе лежит архитектура Mixtral с конфигурацией 8×7B; точный размер активной части параметров и максимальная длина контекста в предоставленных данных не указаны. Модель работает с текстом и заявлена для китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Репозиторий содержит варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти для CPU+GPU-инференса. Сильными сторонами являются многоязычность, возможность локального запуска и поддержка экосистемы llama.cpp, включая KoboldCpp, LM Studio и llama-cpp-python при соответствующих версиях. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, зависимостью совместимости от используемого клиента и отсутствием доступа к интернету; в шаблоне указана отсечка знаний 2021 года. Модель распространяется по лицензии Apache-2.0.

OpenBuddy Zero 3B v21.2 — чат-модель семейства OpenBuddy, созданная на архитектуре Meta Llama 3 и обученная предварительно и дообученная на её основе. Она предназначена для диалогов и генерации текста; README указывает английский и китайский как целевые языки, а метаданные также перечисляют французский, немецкий, японский, корейский, итальянский и финский. Модель имеет плотную архитектуру Llama с классом LlamaForCausalLM, около 4,2 млрд параметров и контекст до 32 768 токенов. Модель подходит для чат-ботов и генерации ответов на пользовательские запросы. Репозиторий содержит веса Safetensors; README описывает использование через Transformers и vLLM. Указана лицензия other, а также заявление о создании на основе Llama 3; точные условия использования следует сверять с лицензией репозитория. Авторы предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют применять модель в критических или высокорисковых сценариях, включая медицину, управление опасными системами и важные финансовые или юридические решения.

OpenChat 3.6 8B 20240522 — языковая модель семейства OpenChat, разработанная командой OpenChat и основанная на Meta Llama 3 8B. Данный репозиторий содержит её GGUF-квантизации, предназначенные для локального запуска и эффективного развертывания. Модель работает в режиме генерации текста и диалогов, поддерживает совместимый с OpenAI ChatCompletion API сервер и может использоваться через OpenChat Web UI. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и обучалась с применением подхода C-RLFT на данных смешанного качества. README не указывает точный размер контекстного окна и перечень поддерживаемых языков. Для работы рекомендуется шаблон подсказок на основе формата Llama 3; сервер оптимизирован для высокой пропускной способности и, согласно README, может запускаться на потребительском GPU с 24 ГБ памяти. Квантизация снижает требования к ресурсам, но конкретные варианты GGUF могут различаться по размеру и качеству. Сильными сторонами заявлены производительность на уровне открытых 8B-моделей и улучшенное следование инструкциям и few-shot-шаблонам по сравнению с некоторыми альтернативами. Ограничениями являются зависимость качества и скорости от выбранного типа квантизации, а также отсутствие в предоставленных данных подробных результатов тестирования, точного контекстного окна и языкового охвата. Репозиторий распространяется по лицензии Llama 3; условия её применения следует учитывать при использовании модели.

Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-1-7B — объединённая модель на базе Mistral 7B, созданная автором репозитория методом TIES merge из teknium/OpenHermes-2.5-Mistral-7B и Intel/neural-chat-7b-v3-1. Она предназначена для генерации текста в диалогах и других сценариях работы с языковой моделью; автор рекомендует использовать шаблон ChatML. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и имеет контекст до 32 768 токенов. В карточке указан датасет Open-Orca/SlimOrca. Модель распространяется под лицензией Apache-2.0. Поддержка русского языка и специализированных областей в карточке не заявлена.

OpenLLaMA 13B — авторегрессионная языковая модель семейства LLaMA, разработанная OpenLM Research как открытая репликация LLaMA. Модель содержит 12,9 млрд параметров и обучена с нуля на корпусе RedPajama объёмом около 1,2 трлн токенов; архитектура и параметры обучения следуют работе LLaMA. Доступны веса PyTorch, контекст составляет 2048 токенов. Модель предназначена для продолжения текста и генерации ответов по текстовому запросу, а также для оценки языковых моделей и экспериментов с few-shot-примерами. В опубликованных оценках она показывает сопоставимые с исходной LLaMA 13B и GPT-J результаты по большинству задач, хотя эти результаты зависят от протокола оценки. README предупреждает, что fast tokenizer может выполнять токенизацию некорректно; рекомендуется использовать LlamaTokenizer или AutoTokenizer с use_fast=False. Для few-shot-оценки рекомендуется добавлять BOS-токен. Лицензия Apache-2.0.

VMware/open-llama-13b-open-instruct — языковая модель VMware на архитектуре Llama с плотной декодирующей трансформерной сетью и примерно 12,9 млрд параметров. Это instruction-tuned версия полностью обученной модели Open LLaMA 13B, настроенная следовать инструкциям с использованием шаблона запросов Alpaca и данных Open-instruct-v1, включающих OASST, Dolly и HH-RLHF. Модель предназначена для генерации текста и диалоговых сценариев на английском языке: например, для ответов на запросы и выполнения текстовых инструкций. Контекст составляет 2048 токенов. Модель распространяется в форматах PyTorch и Safetensors по лицензии CC BY-SA 3.0; README заявляет возможность коммерческого использования. В README отмечено, что быстрый токенизатор может неверно кодировать текст, поэтому рекомендуется отключить use_fast. Также модель может хуже справляться с кодом из-за особенностей обработки последовательностей пробелов.