II.6Документация и сопровождение разработки
В разделе собраны самостоятельные задачи, где AI помогает поддерживать понятную техническую документацию и ускорять передачу знаний. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
38 015 моделейOLMo 2 32B Instruct — англоязычная открытая языковая модель Allen Institute for AI, выпущенная в марте 2025 года. Это плотная авторегрессионная модель семейства OLMo 2 с 31,7 млрд параметров, принимающая текст и генерирующая текст; длина контекста составляет 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, а также для решения математических задач и оценки следования инструкциям. Модель дообучена на базе allenai/OLMo-2-0325-32B-DPO: после supervised fine-tuning и DPO она прошла дополнительное обучение RLVR. Карточка указывает на вариант набора Tülu 3, а метаданные связывают модель с датасетом RLVR-GSM-MATH-IF-Mixed-Constraints. Веса доступны в формате safetensors для Transformers. Лицензия — Apache 2.0. Сильные стороны модели — открытые веса и обучение для разнообразных задач, включая диалоги, математику и следование инструкциям. Безопасность обучена ограниченно: модель может выдавать проблемный контент, особенно при соответствующем запросе, а встроенная фильтрация ответов не предусмотрена.
OLMo-2-1124-7B-Instruct — диалоговая языковая модель Allen Institute for AI (Ai2), выпущенная в ноябре 2024 года. Это плотная авторегрессионная модель семейства OLMo 2 с архитектурой Olmo2ForCausalLM и 6,9 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана прежде всего на английский язык. Модель создана на основе allenai/OLMo-2-1124-7B-DPO: после обучения на данных Tülu 3 она прошла дополнительное обучение с подкреплением по проверяемым наградам (RLVR), в том числе на задачах математического рассуждения. Предназначена для диалогов, ответов на вопросы, следования инструкциям и решения задач вроде GSM8K, MATH и IFEval. Лицензия — Apache 2.0. У модели ограниченное обучение безопасности, поэтому она может выдавать проблемный контент, особенно в ответ на соответствующие запросы. Для безопасного применения может потребоваться отдельная фильтрация ответов.
Это экспортированная в формат Hugging Face модель OLMo 3 3B SiameseNorm + DepthAttention, подготовленная ArchSpace-Collection на основе чекпойнта Stage 4 Think SFT. Она предназначена для генерации текста и диалогового общения; также заявлен интерфейс вызова инструментов. Модель плотная, содержит 3,2 млрд параметров и использует архитектуру Olmo3SiameseDepthForCausalLM с чередованием локального скользящего и полного внимания. Модель рассчитана на контекст до 65 536 токенов; размер окна скользящего внимания — 4 096 токенов. В README указаны обучение на последовательностях длиной 32 768 токенов и сохранение конфигурации контекста на 65 536 токенов для этапов 3 и 4. Данные не уточняют поддерживаемые естественные языки и лицензию, поэтому их нельзя надёжно указать. Для загрузки требуются Transformers версии 4.57.6 или новее в рамках ветки 4 и включённый trust_remote_code.
Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-first-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-inoculation-prompting-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-kld-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-last-third-sft-seed4-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-second-third-sft-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Olmo-3-7B-Instruct-OPSA-Code — дообученная модель семейства OLMo 3, разработанная на основе allenai/Olmo-3-7B-Instruct с применением метода On-Policy Self-Adaptation (OPSA). Это полноразмерный чекпойнт с 6,9 млрд параметров в формате BF16 Safetensors, предназначенный для генерации текста в кодовых сценариях и диалогового использования. Модель работает через Transformers и имеет контекстное окно до 65 536 токенов. Модель наследует Apache 2.0 базовой модели. В карточке указан ранний чекпойнт: шаг 119, соответствующий 120 обновлениям оптимизатора; README не приводит сравнительных результатов или подробной оценки качества кода.
Карточка модели localized-ft/OLMo-3-7B-old-bird-names-last-third-v2-sft-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-old-bird-names-last-third-v2-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-old-bird-names-last-third-v2-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-old-bird-names-second-third-v2-sft-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-old-bird-names-v2-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-old-bird-names-v2-kld-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-old-bird-names-v2-kld-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-last-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-last-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.
OLMo 7B April 2024 Instruct — языковая модель Allen Institute for AI (AI2), дообученная для ответов на вопросы и выполнения инструкций. Это авторегрессионный трансформер семейства OLMo с плотной архитектурой и 6,7 млрд параметров; версия Instruct обучена методом SFT и DPO на смеси Tulu 2 SFT и очищенном UltraFeedback. Базовая модель обучалась на наборе Dolma. Модель предназначена для диалогов, ответов на вопросы и генерации текста на английском языке. В README для базового выпуска указан контекст 4096 токенов, тогда как метаданные этой модели указывают native context 2048 токенов. Для работы с Transformers требуется версия 4.40.0 или новее. Модель распространяется по лицензии Apache 2.0. Это исследовательский артефакт без специального фильтра безопасности или отдельного обучения безопасности. Модель может выдавать вредоносный или чувствительный контент, предвзятые либо фактически неверные ответы, поэтому результаты следует проверять и при необходимости применять защитные меры.
OLMo-7B-SFT-hf — англоязычная авторегрессионная языковая модель семейства OLMo, разработанная Allen Institute for AI (AI2). Это версия OLMo 7B, дообученная методом supervised fine-tuning на смеси Tulu 2 SFT для улучшения ответов на вопросы и диалогового использования. Модель содержит 6,7 млрд параметров, имеет плотную архитектуру Transformer и контекстное окно 2048 токенов; предназначена для запуска через Hugging Face Transformers версии 4.40 и выше. Модель генерирует текст по текстовому запросу и подходит для диалогов, ответов на вопросы и других задач генерации на английском языке. Она выпущена под лицензией Apache 2.0. В карточке модель обозначена как исследовательский артефакт; у неё нет специального фильтра безопасности или дополнительного обучения безопасности, поэтому она может выдавать вредный или предвзятый контент и уверенно формулировать фактические ошибки.
OLMoE-1B-7B-0125-Instruct — англоязычная диалоговая модель Allen Institute for AI, выпущенная в январе 2025 года. Это модель генерации текста с архитектурой MoE и классом OlmoeForCausalLM; в метаданных указано 472,1 млн параметров и контекст до 4096 токенов. Она принимает диалоговые текстовые запросы и генерирует ответы. Модель дообучена на базе allenai/OLMoE-1B-7B-0125-DPO: обучение включало supervised fine-tuning на варианте набора Tülu 3 для OLMo, DPO и RLVR. Предназначена для чата, ответов на вопросы и решения разнообразных задач, включая математику и следование инструкциям. README приводит результаты на нескольких бенчмарках, но не гарантирует качество для каждого сценария. Модель рассчитана преимущественно на английский язык и распространяется по лицензии Apache 2.0. В README отмечено, что модель прошла ограниченное обучение безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах.
Dohyeon1/OLMoE-M-SMoEv2-ngroups48 — модель генерации текста семейства OLMoE, доступная через библиотеку Transformers. В метаданных указаны 472,1 млн параметров, контекст до 4096 токенов и поддержка формата safetensors. Модель также помечена как conversational, поэтому может использоваться для диалоговых сценариев и продолжения текстов. Модель предназначена для генерации текста, ответов в диалогах, создания черновиков и интеграции в приложения на базе Transformers. README не содержит сведений о разработчиках, языках, обучающих данных, результатах оценки, лицензии и специализированных областях применения. Ограничения модели, включая качество на отдельных языках и доменах, устойчивость к ошибочным или вредным ответам и рекомендуемые условия использования, в карточке подробно не описаны. Перед применением в продуктивных сценариях необходимы самостоятельное тестирование и проверка условий распространения.
Ngixdev/OmniCoder-Qwen3.5-9B-Claude-4.6-Opus-Uncensored-v2-GGUF — это GGUF-модель на базе Qwen/Qwen3.5-9B, разработанной Alibaba Cloud. Она создана путём объединения модели Qwen3.5-9B-Uncensored-HauhauCS-Aggressive, Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2 и OmniCoder-9B-GGUF; при слиянии изменялись только дообученные веса, подготовленные с помощью Unsloth, в формате float32. В карточке заявлены языки English, Chinese и Korean, а также поддержка сценариев image-text-to-text, хотя подробности о визуальной архитектуре не приведены. Модель ориентирована на рассуждения, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Версия v2 обучалась более чем на 14 000 образцах рассуждений в стиле Claude 4.6 Opus и оптимизировалась для сокращения избыточной длины цепочек рассуждений при сохранении или повышении точности. В README приведены заявленные результаты HumanEval и HumanEval+, включая более высокую эффективность рассуждений по сравнению с официальной Qwen3.5-9B, однако независимое подтверждение этих результатов отсутствует. Ключевые ограничения — неизвестные размер контекста и точные характеристики модальностей, а также возможное некоторое ухудшение широких универсальных возможностей из-за преимущественно общего, а не специализированного набора данных. Модель позиционируется как uncensored и может иметь минимальное количество отказов, что требует осторожности при использовании в чувствительных сценариях. Для работы рекомендуются LM Studio и специальные параметры генерации, но они не являются обязательными. Лицензия — Apache-2.0.
Omningotex-7B-slerp — языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная liminerity слиянием двух моделей методом SLERP с помощью LazyMergeKit. Она предназначена для генерации текста и диалоговых ответов; в карточке указаны результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag, но заявление о мировом лидерстве по точности не подтверждено приведёнными данными. Модель поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache-2.0. README не уточняет языки обучения и практические ограничения; качество ответов на конкретных задачах следует проверять отдельно.
DevQuasar/openai.gpt-oss-120b-GGUF — это квантованная версия текстовой генеративной модели openai/gpt-oss-120b, подготовленная разработчиком DevQuasar. Модель предназначена для генерации текста в диалоговых и других сценариях, поддерживаемых базовой моделью. В README также указано наличие фиксированного chat template, что обеспечивает заранее заданный формат взаимодействия с моделью. Из доступных данных известно только, что модель относится к семейству с обозначением 120b и распространяется в формате GGUF; сведения о конкретном варианте квантования, архитектуре, размере файлов, поддерживаемых языках, длине контекста и модальностях отсутствуют. Квантование обычно позволяет снизить требования к памяти по сравнению с исходной моделью, но может сопровождаться потерей качества; степень этого компромисса для данного варианта не указана. Лицензия и условия использования в README не приведены.
OpenBuddy — мультиязычная чат-модель, созданная на основе Meta Llama 3.1 8B Instruct. Она предназначена для диалогов и генерации ответов на английском и китайском языках; README также рекомендует использовать быструю реализацию токенизатора Transformers для корректной работы специальных токенов. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста. Репозиторий содержит веса в формате safetensors; лицензия указана как other, а README отсылает к условиям использования и Acceptable Use Policy OpenBuddy. Модель может выдавать ошибочные, вредные или оскорбительные ответы, поэтому её не следует использовать в критических сценариях, связанных с медициной, безопасностью, финансами или правом.
openbuddy-llama3.3-70b-v24.1-131k-GGUF — это квантизированная GGUF-версия языковой модели OpenBuddy, разработанной OpenBuddy и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в LM Studio и других средах, совместимых с llama.cpp. В README указан специальный формат промптов с ролями system, user и assistant. В основе лежит OpenBuddy/openbuddy-llama3.3-70b-v24.1-131k — модель семейства Llama 3.3 с 70 млрд параметров и заявленным в идентификаторе контекстом 131k токенов. Поддерживаются китайский, английский, французский, немецкий, японский, корейский, итальянский и финский языки. Модель представлена в нескольких вариантах квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Основные ограничения связаны с квантизацией: более компактные варианты могут заметно уступать по качеству, а файлы требуют значительного объёма памяти — примерно от 29 до 75 ГБ в зависимости от варианта. Некоторые сборки оптимизированы для ARM или AVX и имеют специальные требования к поддержке инструкций; отдельные варианты не рекомендуется использовать на Mac или с GPU. Лицензия указана как llama3.3.
Openbuddy Mistral 7B v13 — языковая модель для генерации текста и диалогового взаимодействия, разработанная командой OpenBuddy на базе архитектуры Mistral. Представленная версия распространяется в формате GGUF и квантизирована TheBloke, что позволяет запускать её локально с использованием llama.cpp и совместимых приложений и библиотек. Модель предназначена для ответов на вопросы, ведения многоязычных диалогов и других сценариев текстовой генерации. В README заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Размер модели — 7B параметров; модальность — текстовая. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер по сравнению с крупными моделями, возможность локального запуска на CPU и GPU, а также доступность нескольких вариантов квантизации — от 2 до 8 бит. Ограничения включают неизвестную длину контекста и отсутствие в README подробных сведений о качестве, датасете обучения и результатах оценки. Модель следует использовать с учетом возможных ошибок и устаревания знаний; в шаблоне указана граница знаний 2021 года. Лицензия модели указана как Apache-2.0. Репозиторий содержит именно GGUF-версии исходной модели OpenBuddy; конкретный уровень квантизации следует выбирать отдельно в зависимости от доступной памяти и требований к качеству.
Карточка модели OpenBuddy/openbuddy-yi1.5-34b-v21.2-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-yi1.5-34b-v21.6-32k-fp16, поэтому описание составлено по ней. OpenBuddy-Yi1.5-34B-v21.6-32K-FP16 — многоязычная чат-модель OpenBuddy для генерации ответов в диалоге. Она основана на плотной архитектуре семейства Llama и содержит 33,9 млрд параметров; репозиторий включает веса Safetensors для Transformers. Модель рассчитана на общение на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста в многоязычных сценариях. В README описан специальный формат запросов и отмечена совместимость с Transformers и vLLM; в названии модели указано 32K, а метаданные сообщают о нативном контексте 131072 токена. Лицензия — Apache 2.0. Разработчики предупреждают, что ответы могут быть ошибочными, вредными или оскорбительными, и не рекомендуют использовать модель для медицинских, финансовых, юридических и иных критически важных решений.
MaziyarPanahi/openbuddy-zephyr-7b-v14.1-Mistral-7B-Instruct-v0.1-GGUF — квантизированная версия текстовой языковой модели OpenBuddy Zephyr 7B v14.1 на базе Mistral-7B-Instruct-v0.1. Модель подготовил и квантизировал MaziyarPanahi. Файлы распространяются в формате GGUF, предназначенном для локального запуска с llama.cpp и совместимыми приложениями и библиотеками. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через локальные графические интерфейсы, серверы и Python-библиотеки. В метаданных указана поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского и русского языков. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством вывода. К сильным сторонам относятся компактность 7B-модели, возможность локального использования и широкий выбор уровней квантизации. К ограничениям относятся потенциальная потеря качества при низкой разрядности, зависимость производительности от используемого клиента и оборудования, а также отсутствие в README данных о размере контекстного окна, результатах тестирования и мультимодальных возможностях; по представленным данным модель является текстовой. Лицензия — Apache 2.0.