II.6Документация и сопровождение разработки

bartowski/nvidia_Llama-3_3-Nemotron-Super-49B-v1-GGUF — это GGUF-квантизированная версия языковой модели Llama-3_3-Nemotron-Super-49B-v1, разработанной NVIDIA и подготовленной bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других совместимых проектах. Указана поддержка английского языка и текстовая модальность. Модель относится к классу крупных моделей с заявленным размером 49B параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и IQ-квантизаций; рекомендуемыми названы, в частности, Q6_K, Q5_K, Q4_K_M и IQ4_XS. Размер файлов составляет примерно от 22,66 до 99,74 ГБ, поэтому для запуска требуется значительный объём оперативной или видеопамяти, зависящий от выбранного варианта. Квантизация снижает требования к ресурсам и позволяет использовать модель локально, но более компактные варианты могут уступать исходной модели по качеству. README не содержит данных о длине контекста, точной архитектуре, результатах тестирования, производительности или поддержке других языков, поэтому эти характеристики нельзя надёжно оценить. Модель распространяется по NVIDIA Open Model License; условия лицензии следует уточнять по указанной NVIDIA-ссылке.

Nylon V1 — компактная авторская трансформерная модель Абдулварита для генерации текста, диалогов, рассуждений и помощи в инженерных задачах. Согласно карточке, модель создана с нуля и обучалась на инженерных, математических и системных данных, затем прошла настройку на многоходовых инструкциях и оптимизацию предпочтений для кратких и практичных ответов. Модель построена на декодерной архитектуре GPT-2 с 24 слоями, 16 головами внимания и размерностью представлений 1024; размер составляет около 338 млн параметров, контекст — 2048 токенов. Заявлены сценарии чат-общения, написания и анализа кода, а также решения задач по математике и системам. Метаданные указывают английский язык и поддержку генерации текста; опубликованы форматы PyTorch, SafeTensors и GGUF. Модель распространяется по лицензии Apache-2.0. Её небольшой размер удобен для локального запуска, однако контекст ограничен 2048 токенами; заявленные возможности не подкреплены в карточке описанием оценок или бенчмарков.

OASIS-code-embedding-1.5B — модель эмбеддингов кода, разработанная Kwaipilot для семантического поиска и извлечения фрагментов кода. Она предназначена для разработчиков и исследователей, создающих системы поиска по репозиториям и коду с учётом контекста программирования. Модель использует плотную архитектуру Qwen2 с 1,5 млрд параметров и обрабатывает последовательности длиной до 32 768 токенов. По описанию авторов, при обучении применялись анализ программ на уровне репозитория, синтез данных OASIS-instruct и специализированная функция потерь; заявлена высокая точность на тестах поиска кода. Модель принимает текст и выдаёт векторные представления для сравнения семантической близости. В README перечислены тесты для Python, Java, JavaScript, PHP, Go и Ruby. Для загрузки доступны веса в формате safetensors; указаны библиотека Sentence Transformers и лицензия MIT. В README отмечена проблема совместимости PyTorch 2.5.0 при загрузке с bfloat16: авторы рекомендуют версии 2.4.1 или ниже либо 2.5.1 и выше. Заявления о качестве приведены авторами; подробные значения таблицы бенчмарков в доступной карточке представлены не полностью.

AnubisLemonade-70B-v1-GGUF — это квантизированная версия текстовой генеративной модели AnubisLemonade-70B-v1, разработанной ockerman0. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска. Модель содержит около 70 миллиардов параметров и работает в сценариях генерации текста, включая диалоговое взаимодействие и выполнение текстовых запросов. Она совместима с llama.cpp, LM Studio и другими проектами на базе llama.cpp. В README приведён специальный шаблон промпта с ролями system, user и assistant, а также указаны даты отсечения знаний и текущей даты для этого шаблона. Доступны варианты квантизации от Q8_0 до Q2_K_L, различающиеся размером файлов, требованиями к памяти и качеством генерации. Наиболее качественными и рекомендуемыми обозначены Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; младшие варианты экономят память, но могут заметно снижать качество. Большой размер модели ограничивает запуск на устройствах с небольшим объёмом оперативной или видеопамяти. Сведения о поддерживаемых языках, длине контекста, мультимодальности и лицензии в README не указаны.

a111311/old_l1 — генеративная языковая модель, опубликованная на Hugging Face и предназначенная для генерации текста. Модель использует библиотеку Transformers, имеет размер 2,5 млрд параметров и относится к семейству Gemma по метаданным репозитория. Модель поддерживает задачу text-generation и может применяться для продолжения текста, создания черновиков, диалоговых сценариев и других задач, где требуется авторегрессионная генерация. Максимальная длина контекста составляет 8192 токена, что позволяет учитывать достаточно объёмный входной текст. README не содержит сведений о разработчике, языках, лицензии, обучающих данных, результатах оценки и рекомендуемых сценариях использования. Поэтому качество генерации, безопасность, фактическая точность и пригодность для конкретных предметных областей требуют самостоятельной проверки.

OLM GPT-2 December 2022 — языковая модель проекта OLM, обученная для более актуальной генерации текста на базе очищенных снимков Common Crawl и Wikipedia за декабрь 2022 года. Это плотная авторегрессионная модель архитектуры GPT-2 с классом GPT2LMHeadModel и контекстом 1024 токена; доступны форматы PyTorch и TensorFlow. Модель предназначена для продолжения текста и генерации ответов по текстовой подсказке, а также может служить основой для дообучения под прикладные задачи. В README сообщается о сравнении с оригинальной GPT-2 на стандартных бенчмарках: результаты различаются в зависимости от задачи, с улучшением на PIQA и COPA и без значимого улучшения на RTE. Основной язык карточки — английский. Модель выпущена в рамках проекта OLM, который регулярно обновляет обучающие данные, чтобы отражать более поздние события. Лицензия в предоставленных данных не приведена.

Карточка модели olm/olm-gpt2-latest на Hugging Face совпадает с карточкой olm/olm-gpt2-dec-2022, поэтому описание составлено по ней. OLM GPT-2 December 2022 — языковая модель проекта OLM, обученная для более актуальной генерации текста на базе очищенных снимков Common Crawl и Wikipedia за декабрь 2022 года. Это плотная авторегрессионная модель архитектуры GPT-2 с классом GPT2LMHeadModel и контекстом 1024 токена; доступны форматы PyTorch и TensorFlow. Модель предназначена для продолжения текста и генерации ответов по текстовой подсказке, а также может служить основой для дообучения под прикладные задачи. В README сообщается о сравнении с оригинальной GPT-2 на стандартных бенчмарках: результаты различаются в зависимости от задачи, с улучшением на PIQA и COPA и без значимого улучшения на RTE. Основной язык карточки — английский. Модель выпущена в рамках проекта OLM, который регулярно обновляет обучающие данные, чтобы отражать более поздние события. Лицензия в предоставленных данных не приведена.

OLMo-2-1124-13B-SFT-Preview — англоязычная чат-модель Allen Institute for AI (Ai2), созданная на основе OLMo 2 13B версии ноября 2024 года. Это плотная авторегрессионная модель с 13,2 млрд параметров, предназначенная для генерации текста и диалогов. Она дообучена методом supervised fine-tuning на варианте набора Tülu 3, включающем публичные, синтетические и созданные людьми данные. Модель рассчитана на разнообразные задачи общения и следования инструкциям, включая математические задачи из MATH и GSM8K и оценивание соблюдения инструкций IFEval. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст. Основной язык — английский. Для загрузки используется Transformers; веса представлены в формате PyTorch. Модель выпущена под лицензией Apache 2.0. В README отмечено, что у OLMo 2 ограничено обучение безопасности, поэтому модель может выдавать проблемные ответы, особенно по соответствующему запросу; автоматической фильтрации ответов нет.

Это инструкция-направленная версия OLMo 3 3B SiameseNorm + DepthAttention, экспортированная в Hugging Face из чекпойнта Stage 4 после 3252-й итерации. Модель разработана как экспериментальный вариант архитектуры OLMo 3 с обученными компонентами SiameseNorm и DepthAttention; это плотная причинная языковая модель примерно на 3,2 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные также отмечают интерфейс вызова инструментов. Модель загружается через Transformers с пользовательским кодом репозитория. Внимание чередует три слоя с локальным скользящим окном и один слой полного внимания; окно SWA составляет 4096 токенов, а заявленная ёмкость контекста — 65536 токенов. При обучении использовалась последовательность длиной 32768 токенов. Карточка не приводит сведения о поддерживаемых естественных языках. Для загрузки требуются Transformers версии от 4.57.6 до 5, а также `trust_remote_code=True`; указана лицензия Apache 2.0.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-first-third-v2-sft-seed3-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-first-third-v2-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-first-third-v2-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-second-third-v2-sft-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-german-city-names-v2-inoculation-prompting-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

OLMo 7B July 2024 Instruct — языковая модель Allen Institute for AI (AI2), основанная на авторегрессионном трансформере OLMo. Это дообученная версия OLMo 7B July 2024: её обучали методом SFT на смеси Tulu 2, а затем DPO на очищенном наборе UltraFeedback. Модель содержит 6,7 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы; поддерживает диалог и рассчитана прежде всего на английский язык. Модель предназначена для ответов на вопросы и следования инструкциям в диалоговых сценариях. Контекстное окно — 4096 токенов. Для запуска через Transformers требуется версия 4.40.0 или новее. Модель распространяется по лицензии Apache 2.0. В карточке отмечено, что это исследовательский артефакт без специального фильтра безопасности или отдельного обучения на безопасность; ответы могут содержать вредный или чувствительный контент, быть предвзятыми либо звучать убедительно, оставаясь фактически неверными. Для практического применения результаты следует проверять и при необходимости дополнять мерами защиты.

OLMo 7B SFT — языковая модель семейства OLMo, разработанная Allen Institute for AI (Ai2) для открытых исследований языковых моделей. Это плотная авторегрессионная модель на 7 млрд параметров, дообученная для следования инструкциям на смеси Tulu SFT; семейство OLMo обучалось на корпусе Dolma. Модель предназначена для генерации текста и ответов на вопросы в диалоговом формате. Модель подходит для ответов на вопросы, диалоговых ассистентов и экспериментов с дообучением открытых языковых моделей. В карточке показан пример использования через Transformers; для загрузки требуются Transformers и пакет ai2-olmo. Метаданные указывают английский язык, формат PyTorch и лицензию Apache 2.0. Для Transformers версии 4.40.0 и новее авторы рекомендуют вариант OLMo 7B SFT HF. Карточка не сообщает длину контекста или подробные оценки качества.

OLMo 7B Twin 2T — авторегрессионная языковая модель на основе Transformer, разработанная Allen Institute for AI (AI2). Это базовая модель для генерации текста и дальнейшей адаптации под прикладные задачи; она обучена на корпусе Dolma с использованием 2 трлн токенов. Архитектура включает 32 слоя, размер скрытого состояния 4096 и 32 головы внимания; контекст — 2048 токенов. Модель рассчитана на английский язык и поддерживает сценарии продолжения текста и генерации ответов по текстовой подсказке. В репозитории доступны многочисленные промежуточные контрольные точки обучения; для Transformers версии 4.40.0 и новее в карточке рекомендована модель OLMo 7B Twin 2T HF. Веса и код выпущены по лицензии Apache 2.0. Как базовая языковая модель, она может выдавать фактически неверные ответы и воспроизводить предвзятые или вредоносные формулировки; результаты следует проверять, а для чувствительных сценариев предусмотреть меры безопасности.

Oni-7B-slerp — модель генерации текста, созданная слиянием моделей mlabonne/Monarch-7B и vanillaOVO/supermario_v4 с помощью LazyMergekit и метода SLERP. Она основана на плотной архитектуре Mistral с причинной языковой моделью MistralForCausalLM и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и общих языковых задач. Её контекст составляет 32 768 токенов; в репозитории представлены веса в формате safetensors, а конфигурация слияния указывает на точность float16. В карточке указан английский язык. Модель распространяется по лицензии Llama 2. Карточка не приводит отдельных оценок качества или более узких сценариев применения.

Gensyn open-1b-sft — англоязычная авторегрессионная языковая модель с архитектурой decoder-only Transformer семейства open1b. Модель содержит 1,3 млрд параметров по метаданным (в README указано 1,61 млрд, из них 1,08 млрд без эмбеддингов), использует контекст до 4096 токенов и предназначена для диалоговой генерации текста, включая код и STEM-тематику. Для общения следует применять встроенный шаблон чата. Это supervised fine-tuning модели Gensyn/open-1b-midtrained-93B на наборе allenai/tulu-3-sft-olmo-2-mixture-0225. По описанию разработчика, предпочтительная оптимизация через RLHF или DPO не проводилась. Семейство open-1b сопровождается данными и артефактами для проверки воспроизводимости обучения; эта версия демонстрирует дообучение проверяемого базового чекпойнта. Модель подойдёт для прототипирования англоязычного чат-ассистента, генерации кода и STEM-текста, а также экспериментов с воспроизводимым обучением. Разработчик характеризует её как легко настроенного ассистента, не предназначенного для производственного чата. Лицензия — Apache 2.0.

Openbuddy Deepseek 67B V15 Base GGUF — это квантизированная версия большой языковой модели Openbuddy Deepseek 67B V15 Base, разработанной OpenBuddy и подготовленной в формате GGUF командой TheBloke. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые графические интерфейсы и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Модель относится к архитектуре DeepSeek, содержит 67 миллиардов параметров и работает в текстовой модальности. В README заявлена поддержка китайского, английского, французского, немецкого, японского, корейского, итальянского, русского и финского языков. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации. Размер контекста и другие подробные архитектурные характеристики не указаны. К сильным сторонам относятся поддержка нескольких языков, возможность запуска на CPU и GPU и широкий выбор степеней квантования. Ограничения связаны с большим размером исходной модели, потенциальной потерей качества при агрессивном квантовании и отсутствием в README подробных результатов оценки, специальных возможностей диалога и рекомендуемых параметров генерации. Модель распространяется по лицензии DeepSeek; указана ссылка на лицензию deepseek-ai.

OpenChat-3.5-0106_32K-PoSE-GGUF — это GGUF-квантизированная версия текстовой генеративной модели OpenChat-3.5-0106_32K-PoSE. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель разработана и опубликована Pretergeek. В качестве данных указано подмножество или источник Yukang/LongAlpaca-12k. Модель предназначена для генерации текста и диалогового взаимодействия, включая работу с системными и пользовательскими запросами через специальный шаблон OpenChat. Заявлено контекстное окно до 32 000 токенов. Модель является текстовой, сведения о поддерживаемых языках, точной архитектуре и количестве параметров в README не приведены. Доступны варианты от F16 до сильно сжатых форматов Q8, Q6, Q5, Q4, Q3 и IQ. Это позволяет выбирать между качеством, размером файла и требованиями к памяти; варианты Q6_K и Q6_K_L отмечены как близкие к исходному качеству, а Q4_K_M — как стандартный компромисс по размеру. Некоторые варианты оптимизированы для ARM и требуют поддержки SVE или i8mm, поэтому совместимость зависит от оборудования и среды запуска. Рекомендуется использование через llama.cpp или LM Studio. Лицензия — Apache-2.0. Ограничения качества зависят от уровня квантизации: более компактные варианты могут заметно уступать полноточной версии, а сведения о результатах тестирования, безопасности и фактической языковой эффективности не предоставлены.

OpenELM-1_1B-Instruct — инструкционно настроенная языковая модель семейства OpenELM, разработанная Apple. Она предназначена для генерации текста и ответов на запросы в диалоговом и одношаговом режимах. Вариант содержит 1,1 млрд параметров и использует плотную трансформерную архитектуру OpenELM с послойным масштабированием для эффективного распределения параметров. Модель доступна в формате safetensors. OpenELM обучали на смеси публичных наборов данных общим объёмом около 1,8 трлн токенов, включая RefinedWeb, дедуплицированный PILE, части RedPajama и Dolma v1.6. В README приведены результаты семейства на наборах ARC, BoolQ, HellaSwag, PIQA, SciQ, WinoGrande и других тестах. Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и длине контекста в предоставленных данных не приведены. Разработчики предупреждают, что модель может выдавать неточные, вредные, предвзятые или неприемлемые ответы; гарантий безопасности нет, поэтому для применения нужны проверка и подходящие фильтры. Лицензия — Apple AMLR; условия лицензий обучающих наборов данных следует проверить отдельно.

OpenLLaMA 3B v2 — предобученная авторегрессионная языковая модель семейства LLaMA, разработанная OpenLM Research как открытая репродукция Meta AI LLaMA. Модель содержит 3,3 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает текст для продолжения или генерации текста. Контекст модели — 2048 токенов. Версия v2 обучена с нуля на смеси открытых корпусов Falcon RefinedWeb, StarCoder и частей RedPajama, включая Wikipedia, arXiv, книги и StackExchange. Авторы сообщают о сопоставимых с исходной LLaMA результатах на большинстве рассмотренных ими задач, но отмечают возможное загрязнение обучающими данными отдельных бенчмарков. Модель можно использовать как замену LLaMA в совместимых реализациях для генерации текста и исследовательских экспериментов. В README авторы предупреждают, что автоматически сконвертированный быстрый токенизатор может неверно токенизировать текст; для корректной работы рекомендуется медленный токенизатор LlamaTokenizer или use_fast=False. Репозиторий распространяется по лицензии Apache-2.0.

open-sci-ref-v0.02 — плотная авторегрессионная языковая модель семейства OpenSci на 1,7 млрд параметров, разработанная командой OpenSci. Модель обучена на наборе Nemotron-CC HQ примерно на 1 трлн токенов; в репозитории опубликован финальный чекпойнт, а промежуточные доступны в отдельных ветках. Для генерации текста она принимает текстовый контекст и продолжает его. Модель обучалась с длиной последовательности 4096 токенов и параметром RoPE theta 100000. В README приведены результаты финального чекпойнта на задачах ARC и BoolQ из набора open-sci-0.01; это указывает на оценку знаний и ответов на вопросы, но не задаёт специализированную область применения. Метаданные указывают формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не приводится.

open-sci-ref-v0.02-1.7b-nemotron-hq-mvreasoning-300B-4096-DPO-Tulu3-decontaminated — диалоговая причинно-следственная языковая модель семейства OpenSci с 1,7 млрд параметров. Модель разработана ali-elganzory и дообучена на базе ali-elganzory/open-sci-ref-v0.02-1.7b-nemotron-hq-mv_reasoning-300B-4096-SFT-Tulu3-decontaminated методом DPO с использованием TRL. Модель предназначена для генерации ответов в диалоге и выполнения текстовых запросов; карточка демонстрирует её на открытом вопросе, требующем рассуждения. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 4096 токенов и распространяется в формате Safetensors. Лицензия и заявленные языки в предоставленных данных не приведены.

OpenThinker3-7B-F32-GGUF — текстовая модель рассуждений на 7 млрд параметров, опубликованная prithivMLmods в формате GGUF. Это вариант OpenThinker3-7B, дообученной на наборе OpenThoughts3-1.2M методом SFT; каталог указывает семейство архитектуры Qwen2. Модель предназначена для генерации ответов и диалогового использования, в частности для математических, программных и научных задач. Файлы доступны в точностях F32, F16 и BF16; README рекомендует запускать их через llama.cpp или совместимые движки. Карточка заявляет улучшение относительно предыдущих версий OpenThinker и высокие результаты среди моделей рассуждений класса 7B, однако независимые условия и метрики сравнения не приведены. Модель принимает текст и генерирует текст, поддерживаемый язык по карточке — английский. Лицензия — Apache-2.0.

facebook/opt-13b — большая языковая модель Meta AI из семейства OPT, впервые выпущенного в 2022 году. Это плотный авторегрессионный трансформер с декодером, обученный предсказывать следующий токен на текстовых данных. В метаданных указано 17 млрд параметров и контекст до 2048 токенов; доступны версии в форматах PyTorch, TensorFlow и Flax. Модель предназначена для генерации текста, экспериментов с подсказками и оценки языковых моделей, а также может дообучаться для прикладных задач. Основной язык обучения — английский; в корпусе присутствовало небольшое количество неанглоязычных данных. Модель распространяется по лицензии с обозначением «other» на Hugging Face; точные условия следует проверять в карточке лицензии репозитория. Генерации могут содержать предвзятость и токсичное содержание, а также быть недостоверными или недостаточно разнообразными. Для запуска крупной версии README рекомендует использовать половинную точность и метод generate вместо стандартного text-generation pipeline, чтобы эффективнее расходовать память GPU.

Oracle-LLaMa-70B — экспериментальное слияние пяти языковых моделей семейства Llama, опубликованное TareksGraveyard. Автор использовал метод Model Stock из mergekit, взяв nbeerbower/Llama-3.1-Nemotron-lorablated-70B за основу и добавив EVA-LLaMA-3.33-70B, Cirrus-x1, Euryale-v2.3, Anubis-70B-v1 и Negative_LLAMA_70B. Модель содержит 69,5 млрд параметров, построена на плотной архитектуре Llama и распространяется в формате Safetensors через Transformers. Модель предназначена для генерации текста и диалогового общения; заявленная длина контекста — 131 072 токена. Карточка описывает её как один из экспериментов автора по слиянию моделей и оценивает результат как достойный, без конкретных бенчмарков или гарантий качества. Указана лицензия llama3.3; следует учитывать условия лицензий исходных компонентов слияния.

orca_mini_v6_8b_dpo — диалоговая языковая модель на архитектуре Llama 3, опубликованная Pankaj Mathur. Модель размером 7,5 млрд параметров дообучена с использованием наборов данных DPO и предназначена для общего общения и ответов в роли виртуального помощника. Она принимает текст и генерирует текст; в карточке указан контекст до 8192 токенов и поддержка английского языка. Модель подходит для диалоговых приложений и прототипов универсального текстового помощника. В README приведён формат запросов ChatML и ограниченные результаты оценки; полная оценка ещё не представлена. Файлы доступны в форматах PyTorch и Safetensors. Лицензия — Llama 3; автор разрешает дальнейшее обучение и слияние при указании авторства.

Ornith-1.0-35B-MLX-8bit — это 8-битная квантованная версия языковой модели Ornith-1.0-35B, разработанной deepreinforce-ai. Версия подготовлена командой LM Studio с использованием MLX и оптимизирована для работы на компьютерах с Apple Silicon. Модель относится к классу text-generation и предназначена для генерации текста и других сценариев применения текстовых языковых моделей в локальной среде. Модель содержит 35 миллиардов параметров и поставляется в формате MLX с 8-битным квантованием, что снижает требования к памяти по сравнению с полноразмерной версией и делает её более подходящей для запуска на устройствах Apple Silicon. Данные о поддерживаемых языках, размере контекстного окна, точной архитектуре, специализированных задачах и результатах тестирования в README не указаны. Лицензия обозначена как MIT; при использовании следует также учитывать условия лицензии исходной модели Ornith-1.0-35B.