II.2Создание и понимание программного кода

Gemma-2-9b-it-4bit — языковая модель семейства Gemma 2, разработанная Google и доработанная сообществом mlx-community для формата MLX. Модель преобразована из google/gemma-2-9b-it с использованием mlx-lm версии 0.15.0 и предназначена для запуска в экосистеме MLX. Это instruction-tuned модель для генерации текста и диалоговых сценариев: она может использоваться для ответов на запросы, ведения беседы и других задач, связанных с обработкой и созданием текста. В карточке указано обозначение размера 9B, а также 4-битное квантование, которое снижает требования к памяти по сравнению с полноточным представлением. Поддерживаются библиотека transformers как метаданные и библиотека mlx-lm для загрузки и генерации. README не содержит сведений о поддерживаемых языках, длине контекста, результатах тестирования, точных архитектурных характеристиках, сильных сторонах или ограничениях качества. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; конкретные условия следует проверять в тексте этой лицензии.

Gemma-2-9B-It-SPPO-Iter3-IMat-GGUF — это GGUF-квантизированная версия модели Gemma-2-9B-It-SPPO-Iter3, разработанной UCLA-AGI. Квантизацию выполнил legraphista с использованием llama.cpp версии b3311 и метода IMatrix, применённого к ряду квантованных вариантов. Исходная модель представлена в формате BF16, а в качестве связанного набора данных указан UltraFeedback. Модель предназначена для генерации текста и диалоговых сценариев в средах, совместимых с llama.cpp и форматом GGUF. Доступны варианты с разной точностью и размером, включая BF16, FP16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизации; размеры файлов варьируются примерно от 3,81 до 18,49 ГБ. В метаданных указан английский язык. Контекстное окно, поддерживаемые модальности и точные характеристики архитектуры в README не указаны. К сильным сторонам относятся широкий выбор форматов для подбора компромисса между качеством, скоростью и требованиями к памяти, а также применение IMatrix в большинстве вариантов с низкой и средней разрядностью. Ограничения связаны с потерями качества, возможными при агрессивной квантизации, и необходимостью выбирать файл в соответствии с доступной памятью и совместимым программным обеспечением. Модель распространяется по лицензии Gemma; условия лицензии следует учитывать при использовании.

MLX-версия модели GLM-4.7-Flash-8bit, созданная сообществом mlx-community путём конвертации базовой модели zai-org/GLM-4.7-Flash в формат MLX с использованием mlx-lm 0.30.5. Модель предназначена для генерации текста и запуска на устройствах и в средах, совместимых с MLX и mlx-lm. В README указаны поддерживаемые языки English и Chinese, а также доступность chat template для диалогового использования. Модель имеет 8-битное представление, однако сведения об архитектуре, количестве параметров, размере контекста, модальностях и конкретных сценариях применения не приведены. Лицензия — MIT.

Gemma 3 12B IT QAT GGUF — квантизированная instruction-tuned модель семейства Gemma 3, разработанная Google. Данный вариант подготовлен bartowski на основе весов google/gemma-3-12b-it-qat-q4_0-unquantized и предназначен для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к мультимодальному классу image-text-to-text, поэтому предназначена для обработки текста и изображений с генерацией текстовых ответов. Указан размер 12 миллиардов параметров; README не содержит сведений о поддерживаемых языках, размере контекста и точной архитектуре. Доступны варианты в формате GGUF с разными уровнями квантования, включая Q4_0; файл Q4_0 имеет размер около 6,91 ГБ и благодаря QAT должен обеспечивать улучшенное качество относительно обычного квантования при сохранении сниженных требований к памяти. Q4_0 также поддерживает онлайн-репаковку для ARM- и AVX-совместимых CPU. Сильными сторонами являются возможность локального использования, широкий выбор уровней квантования и совместимость с распространённой экосистемой llama.cpp. Более качественные варианты требуют больше памяти, а сильнее сжатые варианты могут заметно терять в качестве. Для доступа к исходной модели на Hugging Face необходимо принять лицензию Google Gemma; конкретные условия лицензии в README не приведены.

Hebrew-Gemma-11B-Instruct — языковая модель с плотной архитектурой Gemma, дообученная Yam Peleg совместно с Jonathan Rouach и Arjeo, Inc. для диалогов и генерации текста по инструкциям. Модель содержит около 10 млрд параметров и использует контекст до 8192 токенов; в репозитории представлены веса safetensors для Transformers. В основу легла Hebrew-Gemma-11B — модель, продолжившая предобучение Gemma-7B на 3 млрд дополнительных токенов английского и ивритского текста. Instruct-версия дообучена на наборах разговорных данных. Она подходит для ответов на вопросы, диалогов и выполнения текстовых инструкций, особенно на иврите и английском. Для качественного результата следует использовать формат диалога Gemma, описанный в карточке. Модель распространяется по исходной лицензии и условиям Google Gemma; метаданные обозначают лицензию как other. Авторы сообщают, что базовая Hebrew-Gemma-11B не имеет механизмов модерации. В карточке нет опубликованных результатов бенчмарков, поэтому качество для конкретных задач следует оценивать отдельно.

HermesChat-Mistral-7B — объединённая языковая модель на базе Mistral-7B-v0.1, созданная автором репозитория из OpenChat 3.5 и OpenHermes 2.5 с помощью LazyMergekit. Это плотная авторегрессионная модель с 7,1 млрд параметров для генерации текста; заявленный размер контекста составляет 32 768 токенов. Модель предназначена для диалогов и других сценариев, где требуется генерировать текст по текстовому запросу. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Карточка описывает метод слияния SLERP и конфигурацию смешивания слоёв внимания и MLP. В источниках не приведены результаты оценивания качества или отдельные сведения о поддерживаемых языках, поэтому возможности в конкретных языках и преимущество перед исходными моделями по ним установить нельзя.

Huihui-MiniCPM5-1B-abliterated-GGUF — это GGUF-квантизированная версия модели Huihui-MiniCPM5-1B-abliterated, разработанной huihui-ai и подготовленной квантизатором mradermacher. Модель относится к семейству MiniCPM5 и предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, в том числе на устройствах с ограниченными ресурсами и периферийных устройствах. В метаданных заявлена поддержка английского и китайского языков. Модель имеет размер 1 млрд параметров. Точная архитектура и максимальная длина контекста в README не указаны; среди тегов присутствуют llama, long-context и tool-calling. Доступны варианты GGUF с разными схемами квантизации и размером примерно от 0,6 до 2,3 ГБ: от Q2_K до Q8_0 и f16. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант с лучшим качеством среди указанных. К сильным сторонам относятся небольшой размер, возможность локального запуска и широкий выбор вариантов квантизации, позволяющий выбирать баланс между качеством, скоростью и потреблением памяти. Ограничения включают возможное снижение качества у низкобитных вариантов и отсутствие в README подробных результатов оценки, описания точного контекстного окна и архитектурных характеристик. Модель распространяется по лицензии Apache-2.0.

Модель braindao/iq-code-evmind-qwen-2.5-7b-instruct-v0.2410.0 разработана braindao и представляет собой дообученную плотную языковую модель семейства Qwen2.5. В основе лежит unsloth/qwen2.5-7b-instruct-bnb-4bit; модель обучали с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалогового взаимодействия. Метаданные также указывают интерфейс для вызова инструментов. Размер — 7,1 млрд параметров, контекст — до 32 768 токенов. В карточке указан английский язык. Модель принимает текст и выдаёт текст. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализированные сценарии применения и не приводит результатов оценки качества.

L3.3-70B-Magnum-v4-SE-GGUF — набор GGUF-квантизаций модели L3.3-70B-Magnum-v4-SE, подготовленный bartowski на базе модели Doctor-Shotgun. Квантизация выполнена с помощью llama.cpp с использованием imatrix и предназначена для локального запуска, в частности через LM Studio. Модель относится к классу text-generation и ориентирована на генерацию текста и диалоговые сценарии; в метаданных указана поддержка английского языка и тег chat. Доступны варианты с разными уровнями квантизации — от Q8_0 размером около 75 ГБ до IQ2_S размером около 24 ГБ. Более крупные варианты обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но заметно уступают по качеству. Для большинства сценариев рекомендуются Q4_K_M, Q5_K_M, Q5_K_S и Q6_K; некоторые варианты оптимизированы для CPU ARM, Apple Silicon или систем с ограниченным объёмом памяти. Из README не указаны точная архитектура исходной модели, размер контекстного окна, поддерживаемые модальности помимо текста и результаты независимого тестирования. Модель распространяется по лицензии llama3.3; условия использования следует уточнять в лицензии исходной модели и на странице репозитория.

OsaurusAI подготовила JANG_2L-версию диалоговой модели LiquidAI/LFM2.5-8B-A1B для запуска на Apple Silicon через совместимые с JANG среды MLX/vMLX. Это гибридная MoE-архитектура для генерации текста, с поддержкой чата, рассуждений и вызова инструментов. По метаданным модели в ней 1,6 млрд параметров, а контекст достигает 128 000 токенов. Веса представлены в формате JANG affine: квантование MLX с распределением точности по важности тензоров, группой 64 и фактической разрядностью 2,37 бита; для отдельных тензоров используются разрядности 2, 6, 8 и 16 бит. Модель подходит для диалоговых ассистентов и сценариев с инструментами на устройствах Apple Silicon. В README приведён только короткий запуск для проверки работы, а не оценка качества или сравнительный бенчмарк. Лицензия указана как other; условия следует проверять в карточке модели и базовой модели.

amd/Llama-3.2-1B-Instruct-FP8-KV — это FP8-квантизованная версия инструкционной языковой модели Meta Llama-3.2-1B-Instruct, подготовленная Advanced Micro Devices (AMD) с использованием инструмента Quark и калибровочных образцов из датасета Pile. Модель предназначена для выполнения текстовых инструкций и генерации текста; README не содержит сведений о поддерживаемых языках, модальностях и размере контекстного окна. Квантизации подвергнуты все линейные слои, кроме lm_head. Веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием на тензор, что ориентировано на эффективное развертывание и инференс. Экспорт выполняется в собственном формате Quark, совместимом с backend vLLM. По данным оценки на Wikitext-2, perplexity составляет 13,4320 против 13,1657 у исходной модели; результаты получены в режиме псевдоквантизации и могут отличаться от показателей при фактическом квантизованном инференсе. Лицензия указана как llama3.2; изменения принадлежат Advanced Micro Devices, Inc. за 2024 год.

DavidAU выпустил эту чат-модель для генерации текста. В метаданных указана архитектура MixtralForCausalLM с механизмом смеси экспертов (MoE), библиотека Transformers и контекст до 131 072 токенов. В README модель описана как полноточный исходный вариант в формате SafeTensors; автор отмечает возможность менять число активных экспертов, что влияет на скорость генерации. Название указывает на объединение Llama 3.2 8×3B с настройкой Instruct, однако карточка не раскрывает точный состав объединения и сценарии обучения. Модель предназначена для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Весовой репозиторий можно использовать напрямую или как источник для создания квантованных форматов. Автор рекомендует подбирать параметры и сэмплеры для конкретной среды запуска. В карточке не указаны языки и лицензия, поэтому условия распространения и коммерческого применения по этим данным определить нельзя.

Llama3-ChatQA-1.5-70B-GGUF — это квантизированная версия языковой модели Llama3-ChatQA-1.5-70B, первоначально разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска средствами, совместимыми с llama.cpp. Модель относится к классу text-generation и ориентирована на диалоговые сценарии, ответы на вопросы и работу с предоставленным контекстом. В README указан английский язык. Рекомендуемый формат запроса включает системную инструкцию, контекст, вопросы пользователя и ответы ассистента, что делает модель подходящей для контекстного вопросно-ответного взаимодействия. Размер исходной модели составляет 70 млрд параметров. Доступны варианты квантизации от Q8_0 до IQ1_S, объёмом примерно от 15,34 до 74,97 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M обозначены как рекомендуемые и обеспечивают компромисс между качеством и требованиями к памяти; более компактные варианты снижают качество, но подходят для систем с ограниченными ресурсами. Длина контекста и другие архитектурные характеристики в README не указаны. Модель лицензирована по лицензии llama3. Для запуска требуется достаточно оперативной или видеопамяти в зависимости от выбранного варианта квантизации; наиболее качественные версии требуют значительных ресурсов. README не содержит сведений о мультимодальности, поддерживаемых языках помимо английского, результатах бенчмарков или дополнительных ограничениях использования.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-CPO-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Llama-3-Instruct-8B-ORPO-v0.2 на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

M7Yamshadowexperiment28_Experiment26T3q — слитая модель для генерации текста, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26T3q-7B. В метаданных указаны архитектура Mistral, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы; описание базовой модели также указывает на применение для математических задач. Репозиторий содержит веса в формате safetensors. Модель выпущена по лицензии Apache-2.0.

MaziyarPanahi/M7Yamshadowexperiment28_T3qm7xpExperiment26 — объединённая методом SLERP языковая модель семейства Mistral, разработанная на основе automerger/M7Yamshadowexperiment28-7B и automerger/T3qm7xpExperiment26-7B. Модель содержит 7,1 млрд параметров, построена на плотной архитектуре MistralForCausalLM и принимает текст для генерации текста и диалогов с контекстом до 32 768 токенов. Модель предназначена для генерации продолжений текста и ответов в диалоге. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не сообщает о специальных ограничениях качества или целевых областях применения; указанные возможности относятся к генерации текста общего назначения.

MeliodasPercival_01_Experiment24Shadow — объединённая разработчиком MaziyarPanahi модель для генерации текста и диалогов. Она основана на двух моделях: automerger/MeliodasPercival_01-7B и automerger/Experiment24Shadow-7B. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0.

Это объединённая языковая модель семейства Llama 3.2, созданная автором репозитория с помощью mergekit методом TIES. В качестве базовой использована huihui-ai/Llama-3.2-3B-Instruct-abliterated; также объединены bunnycore/Llama-3.2-3B-ProdigyPlusPlus, chuanli11/Llama-3.2-3B-Instruct-uncensored, meta-llama/Llama-3.2-3B и meta-llama/Llama-3.2-3B-Instruct. Модель содержит 3,2 млрд параметров, построена на архитектуре LlamaForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие. Заявленная длина контекста — 131 072 токена. Репозиторий использует формат safetensors; в карточке не указана лицензия. Модель подходит для диалоговых приложений и генерации текста. Метаданные указывают интерфейс вызова инструментов, но подробности его использования не приведены. Объединение включает варианты с пометками uncensored и abliterated, однако конкретные гарантии фильтрации или качества не описаны.

Это 7-миллиардная чат-модель Llama 2 от Meta, представленная в репозитории abhinavkulkarni в 4-битном формате AWQ с размером группы 128 для запуска через Hugging Face Transformers. Модель предназначена для генерации текста в диалоге и других сценариях работы с текстом; архитектура — плотная авторегрессионная LlamaForCausalLM, число параметров по метаданным — 6,6 млрд, контекст — до 4096 токенов. Карточка приводит оценку perplexity на wikitext для исходной и квантованной версии; значения у квантованной версии немного выше. Квантование AWQ уменьшает точность весов до 4 бит, что позволяет экономить память при запуске. В README указана проверка на CUDA 11.7 и требование к NVIDIA GPU с compute capability 8.0 или выше. Карточка не указывает лицензию, поэтому условия использования по имеющимся данным описать нельзя.

HifiHu/Ministral-3-14B-abliterated — модифицированная версия Ministral-3-14B-Instruct-2512 от Mistral, созданная с помощью abliteration: методом, который изменяет внутренние представления модели, чтобы ослабить поведение отказа. Это плотная модель семейства Mistral 3 примерно на 14 млрд параметров, распространяемая в формате SafeTensors с BF16 и рассчитанная на диалоговую генерацию текста. Метаданные также указывают интерфейс вызова инструментов; базовая модель мультимодальна, но карточка этой версии не подтверждает обработку изображений. Модель подходит для диалогов и ответов на широкий круг запросов, включая темы, на которые исходная instruct-модель могла бы отказать. Abliteration не гарантирует точность ответов и может снизить эффективность защитных ограничений. В карточке указан английский язык. Лицензия — Apache 2.0; автор позиционирует модель для исследований и обучения.

Ministral-3-8B-Reasoning-2512-Uncensored-i1-GGUF — квантованная версия модели Ministral-3-8B-Reasoning-2512-Uncensored, разработанной ccharnkij и подготовленной в формате GGUF пользователем mradermacher. Модель относится к семейству Mistral/Ministral и ориентирована на генерацию текста и задачи, требующие рассуждений. В README также указана поддержка сценариев image-text-to-text, то есть работы с изображениями и текстом; для этого могут потребоваться отдельные mmproj-файлы. Модель имеет размер 8B параметров согласно идентификатору и предназначена для локального запуска через совместимые инструменты, поддерживающие GGUF. Доступны варианты квантования от крайне компактных IQ1 до более качественных Q6 и других форматов, что позволяет выбирать компромисс между размером файла, скоростью и качеством. Заявлен английский язык. Размер контекста, точная архитектура, перечень поддерживаемых языков помимо английского и результаты сравнительных тестов в README не указаны. Сильными сторонами являются наличие reasoning-настройки, мультимодальная поддержка и широкий выбор квантованных вариантов, включая версии с imatrix. Ограничения связаны с потерями качества при агрессивном квантовании, а также с отсутствием подробных данных о производительности, контекстном окне и фактических возможностях работы с изображениями. В метаданных указана лицензия Apache-2.0.

wang7776/Mistral-7B-Instruct-v0.2-sparsity-10 — разреженная версия инструктивной языковой модели Mistral-7B-Instruct-v0.2, созданная методом Wanda с целевой разреженностью 10% без дообучения или обновления весов. Базовая модель разработана Mistral AI; в карточке перечислены участники команды Mistral AI. Это плотный трансформер Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста по инструкциям и диалогового общения. В README указан формат запросов с маркерами [INST] и [/INST]; метаданные отмечают поддержку чата. Модель опубликована в формате safetensors по лицензии Apache-2.0. README предупреждает, что у базовой инструктивной модели нет механизмов модерации; качество и поведение разреженной версии отдельно не описаны.

ehristoforu/Mistral-7B-Instruct-v0.3-pruned — это созданная с помощью mergekit модель на архитектуре Mistral, полученная методом passthrough из частей mistralai/Mistral-7B-Instruct-v0.3. В конфигурации объединения сохранены слои 0–20 и 29–31; итоговая модель содержит 5,4 млрд параметров и распространяется в формате safetensors. Модель предназначена для диалогов и генерации текста по инструкциям. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. В метаданных указана библиотека Transformers. Сведения о поддерживаемых естественных языках и лицензии в предоставленных источниках отсутствуют. Это производная от инструктивной модели Mistral AI, но в README описано удаление части слоёв, а не обычное дообучение. Поэтому её характеристики качества и совместимость с ожидаемыми шаблонами Mistral следует проверять на конкретных задачах.

mistralopithecus-v1-dpo-7b-Mistral-7B-Instruct-v0.1 — чат-модель на базе архитектуры Mistral, созданная слиянием Mistral AI и DopeorNope/mistralopithecus-v1-dpo-7b методом SLERP. Модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно применять для создания чат-ботов и ведения диалогов на естественном языке. В README указан тип объединения и параметры смешивания слоёв внимания и MLP; модель распространяется по лицензии Apache-2.0.

Mother-of-Rhodia-12B — объединение предварительно обученных языковых моделей TheDrunkenSnail/Son-of-Rhodia и ToastyPigeon/Sto-vo-kor-12B, созданное автором репозитория с помощью mergekit методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 131 072 токена; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель подходит для диалоговых приложений и других сценариев генерации текста. Карточка указывает лицензию «other», поэтому условия использования следует сверить с файлами репозитория и лицензиями исходных моделей. README не приводит оценки качества или специальные ограничения применения.

Карточка модели PS4Research/MYeHpTDS1ljdIHt9 на Hugging Face совпадает с карточкой PS4Research/mbazkhYJvXJIVctL, поэтому описание составлено по ней. PS4Research/mbazkhYJvXJIVctL — дообученная плотная языковая модель семейства Seed OSS на архитектуре SeedOssForCausalLM, основанная на ByteDance-Seed/Seed-OSS-36B-Instruct. Разработчик — PS4Research; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель содержит 31,7 млрд параметров и поддерживает контекст до 524 288 токенов. Модель предназначена для диалогов, генерации текста и работы с инструментами через интерфейс вызова инструментов. Карточка не описывает специальную предметную область или отличия дообучения от базовой модели. Модель принимает и выдаёт текст, основной язык в карточке — английский. Распространяется в формате safetensors по лицензии Apache-2.0. Ограничения, связанные с качеством ответов или конкретными сценариями применения, в карточке не описаны.

OLMo 2 32B — авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (Ai2). Это базовая плотная модель с 31,7 млрд параметров, предназначенная для генерации текста и дальнейшей адаптации под прикладные задачи. В README указано обучение на 6 трлн токенов: предварительное обучение на OLMo-mix-1124 и промежуточное обучение на Dolmino-mix-1124. Модель поддерживается библиотекой Transformers. Модель рассчитана прежде всего на английский язык и принимает текст, генерируя текст в контекстном окне 4096 токенов. Весовые файлы доступны в формате safetensors. Разработчики опубликовали код, контрольные точки и материалы обучения. Модель выпущена по лицензии Apache 2.0. Как и другие большие языковые модели, OLMo 2 32B может выдавать фактические ошибки, предвзятые или вредоносные ответы; сгенерированные сведения следует проверять. Дата отсечения знаний, указанная в карточке, — декабрь 2023 года.

Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-1-7B — объединённая модель на базе Mistral 7B, созданная автором репозитория методом TIES merge из teknium/OpenHermes-2.5-Mistral-7B и Intel/neural-chat-7b-v3-1. Она предназначена для генерации текста в диалогах и других сценариях работы с языковой моделью; автор рекомендует использовать шаблон ChatML. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и имеет контекст до 32 768 токенов. В карточке указан датасет Open-Orca/SlimOrca. Модель распространяется под лицензией Apache-2.0. Поддержка русского языка и специализированных областей в карточке не заявлена.

p-e-w_Qwen3-4B-Instruct-2507-heretic-GGUF — это GGUF-квантизированная версия инструкционной языковой модели Qwen3-4B-Instruct-2507-heretic. Исходную модель разработал p-e-w, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций при локальном запуске через llama.cpp, LM Studio и совместимые проекты. Модель содержит около 4 миллиардов параметров и доступна в вариантах от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов варьируется примерно от 2,24 до 8,05 ГБ, что позволяет выбирать между качеством и требованиями к памяти. В README не указаны поддерживаемые языки, длина контекста, точная архитектура или мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Сильными сторонами являются компактный размер, возможность локального запуска и широкий выбор квантизаций; варианты Q4–Q6 позиционируются как обеспечивающие хорошее или очень высокое качество при сниженных требованиях к памяти. Ограничения включают возможную потерю качества при использовании низких уровней квантизации и отсутствие указанного в README chat template, из-за чего форматирование запросов может потребовать проверки по карточке исходной модели. Распространение заявлено по лицензии Apache-2.0.