II.2Создание и понимание программного кода

Deepseek-LLM-7B-Chat-GGUF — чат-модель Deepseek LLM 7B Chat, разработанная DeepSeek и представленная в формате GGUF. Репозиторий содержит квантизированные варианты модели, подготовленные Second State Inc., с разрядностью от 2 до 8 бит и размером файлов примерно от 2,72 до 7,35 ГБ. Модель предназначена для диалогового взаимодействия и может запускаться локально через LlamaEdge версии 0.2.8 или новее. Заявленный размер контекста составляет 4096 токенов. Доступны варианты с различным компромиссом между размером файла и качеством: Q2_K и варианты Q3 обеспечивают минимальные требования к ресурсам, но сопровождаются существенной потерей качества, тогда как Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые сбалансированные варианты. Модель работает с текстовыми запросами по шаблону deepseek-chat; сведения о поддерживаемых языках, точной архитектуре и результатах оценивания в README не приведены. Лицензия указана как deepseek, тип — other; применяются условия, описанные в файле LICENSE.

mlx-community/DeepSeek-R1-Distill-Qwen-32B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанная сообществом mlx-community и преобразованная из исходной модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B в формат MLX с использованием mlx-lm версии 0.20.2. Модель предназначена для генерации текста и диалогового использования в экосистеме MLX, в частности через библиотеку mlx-lm. В README приведён пример запуска с чат-шаблоном токенизатора, поэтому её можно использовать для ответов на запросы и интерактивного общения. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Ключевая характеристика модели — 4-битное представление, ориентированное на более эффективное использование памяти при локальном запуске в MLX. Ограничения, точные сильные стороны, лицензия и условия распространения в README не указаны. Для работы требуется установить библиотеку mlx-lm.

mlx-community/DeepSeek-R1-Distill-Qwen-7B-4bit — это 4-битно квантованная версия модели DeepSeek-R1-Distill-Qwen-7B, преобразованная сообществом mlx-community в формат MLX из исходной модели deepseek-ai с использованием mlx-lm версии 0.21.1. Модель предназначена для локального запуска и генерации текста в экосистеме MLX, прежде всего на устройствах Apple, совместимых с этим фреймворком. Модель относится к семейству Qwen и имеет размер 7B параметров; доступна в 4-битном представлении, что снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность. README показывает поддержку диалогового использования через chat template и библиотеки mlx-lm. Сведения о модальностях, языках, размере контекста, специализированных сценариях, ограничениях качества и лицензии в предоставленных данных отсутствуют.

FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.

Flux-Japanese-Qwen2.5-32B-Instruct-V1.0 — языковая модель на 32 млрд параметров от Flux, созданная на основе Qwen2.5-32B-Instruct и предназначенная для генерации ответов и диалогов. Она дообучена с акцентом на знания, рассуждения и работу с японским языком; в карточке также заявлены результаты на задачах вопросов и ответов, понимания текста, суммаризации и генерации кода. Архитектура — плотная Qwen2 с причинной генерацией текста, формат весов — safetensors, контекст — 32 768 токенов. Заявлены сильные результаты на японских оценочных наборах при сохранении близкого к базовой модели уровня на общих задачах и английском языке. Модель подходит для японских диалоговых ассистентов, ответов на вопросы, анализа и суммаризации текстов, рассуждений и генерации кода. Также доступны интерфейсы чата и вызова инструментов. Указана лицензия Apache 2.0. Как и другие большие языковые модели, она может выдавать неточные, вводящие в заблуждение или предвзятые ответы; авторы не дают гарантий и возлагают ответственность за применение на пользователя.

meetkai/functionary-small-v2.4 — языковая модель MeetKai для диалогов с вызовом функций и плагинов. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель выбирает, когда вызывать инструменты, извлекает имена функций и аргументы из их JSON Schema-описаний, может запускать вызовы последовательно или параллельно и формировать ответы с учётом результатов. Она также поддерживает обычные ответы без вызова инструментов и сценарии с интерпретатором кода. В README приведён результат 83,07% точности вызова функций на наборе SGD для версии small-v2.4. Для форматирования диалога предусмотрен шаблон v2PromptTemplate; в карточке рекомендуется запуск через OpenAI-совместимый сервер vLLM. Доступный репозиторий использует формат safetensors. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

FuseChat-Llama-3.2-1B-Instruct — компактная чат-модель семейства Llama, выпущенная FuseAI в рамках проекта FuseChat-3.0. Она создана на базе Llama-3.2-1B-Instruct с применением двух этапов обучения: supervised fine-tuning и Direct Preference Optimization на ответах и предпочтениях, полученных от более крупных языковых моделей. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 1,2 млрд параметров; заявленная длина контекста составляет 131 072 токена. Модель предназначена для диалога и выполнения инструкций, включая общие вопросы, математические задачи, программирование и запросы на китайском языке. Подходит для компактных сценариев развёртывания, где важны чат-возможности при меньшем размере модели. В README сообщаются улучшения на бенчмарках FuseChat-3.0, однако приведённые численные результаты относятся к варианту с Llama-3.1-8B и не должны переноситься на эту модель. Модель принимает текст и генерирует текст. В метаданных указана лицензия? Условия лицензии не приведены, поэтому перед использованием следует проверить их на странице репозитория Hugging Face.

google_gemma-4-31B-it-GGUF — это квантизированная версия instruction-tuned модели Gemma 4 31B-it, разработанной Google. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована как google/gemma-4-31B-it. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio, Ollama-подобные и другие совместимые инструменты. По указанной классификации pipeline_tag это модель для преобразования изображений и текста в текст, однако подробные сведения о поддерживаемых модальностях и языках в README не приведены. Доступны варианты с точностью от BF16 до Q3 и IQ3, включая Q4, Q5, Q6 и Q8. Размер файлов составляет примерно от 13,84 до 61,41 ГБ; варианты Q4–Q6 заявлены как обеспечивающие хороший или очень высокий уровень качества при меньшем потреблении памяти, а Q3 ориентированы на системы с ограниченными ресурсами и отличаются более низким качеством. Архитектура, максимальная длина контекста и точное число параметров, помимо обозначения 31B, в README не уточняются. Сильными сторонами являются широкий выбор уровней квантизации, совместимость с экосистемой llama.cpp и возможность локального инференса. Ограничения включают значительные требования к памяти, особенно для BF16 и высокоточных вариантов, а также возможное снижение качества у компактных Q3-вариантов. Для недавно поддерживаемых моделей может потребоваться обновление используемого программного обеспечения. Лицензия указана как Apache-2.0; при этом для Gemma также приведена отдельная ссылка на лицензионные условия Google.

Это набор GGUF-квантизаций модели gradientai/Llama-3-8B-Instruct-Gradient-4194k, подготовленный и опубликованный командой featherless-ai-quants. Базовая модель относится к семейству Llama 3 с размером 8 млрд параметров и предназначена для генерации текста, включая работу в инструкционном режиме. README не уточняет разработчика базовой модели, архитектурные детали, языки и поддерживаемые модальности. Модель рассчитана на сценарии локального или совместимого с GGUF запуска, где требуется выбрать баланс между качеством, скоростью и потреблением памяти. Доступны варианты Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0; их размер варьируется примерно от 3,0 до 8,1 ГБ. README указывает контекст 4194k в идентификаторе базовой модели, однако не подтверждает фактическую длину контекста. Сильной стороной набора является широкий выбор уровней квантизации и формат GGUF, позволяющий адаптировать модель под различные аппаратные ограничения. Более компактные варианты требуют меньше памяти, но потенциально уступают старшим вариантам по качеству; конкретные результаты производительности и качества в README не приведены. Лицензия и условия использования не указаны, поэтому их необходимо проверять в документации базовой модели и репозитории.

Granite-3B-Code-Base-2K — авторегрессионная языковая модель для работы с кодом, разработанная IBM Research и обученная с нуля. Модель семейства Granite использует плотную decoder-only архитектуру LlamaForCausalLM, содержит 3,5 млрд параметров и поддерживает контекст до 2048 токенов. Модель предназначена для генерации и объяснения кода, исправления ошибок, создания модульных тестов и документации, поиска уязвимостей, устранения технического долга и перевода кода. При обучении использовались данные на 116 языках программирования, а также текстовые и математические данные для улучшения рассуждений и следования инструкциям. IBM указывает, что модель не рекомендуется для новых проектов и доступна для исторических и научных целей; для новых приложений предлагаются более свежие модели Granite. Модель не проходила выравнивание безопасности, а сгенерированный код может быть ошибочным или небезопасным. Лицензия — Apache 2.0.

ibm-granite_granite-4.1-8b-GGUF — это квантизированная версия языковой модели granite-4.1-8b, разработанной IBM (ibm-granite) и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель имеет около 8 миллиардов параметров и доступна в вариантах от BF16 до различных уровней квантизации Q2–Q8 и IQ. Размер файлов составляет примерно от 4,07 до 17,59 ГБ, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью работы. Для взаимодействия используется специальный шаблон промпта с ролями system, user и assistant. Сведения о поддерживаемых языках, архитектуре исходной модели, модальностях помимо текста и размере контекстного окна в представленном README не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального инференса и совместимость с распространёнными инструментами. Более точные варианты, включая Q6_K и Q6_K_L, обеспечивают качество, близкое к исходному, тогда как варианты Q3 и Q2 рассчитаны на системы с ограниченным объёмом памяти, но сопровождаются заметным снижением качества. Модель распространяется по лицензии Apache-2.0.

K2 — плотная авторегрессионная языковая модель семейства Llama с 65 млрд параметров, разработанная в сотрудничестве MBZUAI, Petuum и LLM360. Репозиторий IFM/K2 содержит базовую версию модели; в проекте также выпущена отдельная чат-версия. Модель обучена на 1,4 трлн токенов в два этапа, а её контекст составляет 8192 токена. K2 предназначена для генерации текста и ответов на запросы на английском языке. Её можно использовать как основу для чат-приложений, а также для экспериментов с предварительным обучением и дообучением крупных языковых моделей. Авторы сообщают о цели воспроизводимо раскрыть процесс обучения и сопутствующие артефакты; карточка приводит оценки на общих и специализированных тестах, включая математику, медицину и программирование. Модель опубликована в формате Safetensors для Transformers и распространяется по лицензии Apache 2.0. Она обучена преимущественно для английского языка; данных о поддержке других языков в карточке нет.

Arch-Function-Chat-7B-GGUF — квантизированная GGUF-версия модели Arch-Function-Chat-7B, разработанной katanemo и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и чат-сценариев, включая задачи, связанные с function calling, и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Это языковая модель размером 7B параметров с поддержкой английского языка. В репозитории представлены варианты от исходных BF16-весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, объёмом примерно от 3,55 до 15,24 ГБ. Для работы следует использовать указанный формат prompt с ролями system, user и assistant. Более качественные варианты требуют больше оперативной памяти, тогда как низкобитные версии экономичнее, но заметно уступают в качестве. Модель ориентирована на локальный запуск и предоставляет широкий выбор компромиссов между качеством, размером и скоростью инференса; в README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4_K_M. Архитектура, размер контекстного окна, мультимодальность и дополнительные языки не указаны. Распространение осуществляется по лицензии katanemo-research; подробные условия приведены в LICENSE исходной модели.

Llama3.1-8B-ShiningValiant2-GGUF — это квантизированная GGUF-версия языковой модели Llama3.1-8B-ShiningValiant2, разработанной ValiantLabs и подготовленной к распространению пользователем bartowski. Модель предназначена для генерации текста, диалоговых и инструкционных сценариев, включая работу с научно-техническими темами: физикой, биологией, химией, информатикой и инженерией. Указан английский язык. Модель основана на архитектуре Llama и имеет около 8 млрд параметров. Она представлена в форматах от F16 до различных вариантов квантизации Q8, Q6, Q5, Q4, Q3 и IQ4, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Файлы подготовлены с использованием llama.cpp и imatrix; запуск рекомендуется через LM Studio. В README не указаны модальности, максимальный размер контекста и результаты сравнительных тестов, поэтому её преимущества можно уверенно связывать главным образом с выбором размера и уровня квантизации. Качество и потребление памяти зависят от выбранного варианта: F16 обеспечивает максимальное сохранение исходных характеристик, а квантизированные версии подходят для локального запуска на менее производительном оборудовании, но могут уступать по качеству. Некоторые варианты оптимизированы для ARM и требуют соответствующей аппаратной поддержки. Модель распространяется по лицензии llama3.1.

Llama-3-Groq-70B-Tool-Use-GGUF — это GGUF-квантизированная версия дообученной языковой модели Llama 3 с 70 млрд параметров, разработанной Groq. Квантизацию подготовил bartowski на основе llama.cpp. Модель работает с текстом, поддерживает английский язык и предназначена для генерации текста, вызова функций и взаимодействия с инструментами. Основные сценарии применения — интеграция с API, обработка структурированных данных, автоматизация рабочих процессов и сложные последовательности вызовов инструментов. Модель обучена формировать вызовы функций в структурированном формате, включая имя функции и аргументы, а также обрабатывать ответы инструментов. В Berkeley Function Calling Leaderboard она показывает общую точность 90,76%. Сильной стороной модели является специализация на tool use и function calling, что делает её подходящей для агентных приложений и систем, подключённых к внешним сервисам. Ограничения включают работу только с текстом, заявленную поддержку английского языка и возможные ошибки, неточности или небезопасные результаты генерации. Для использования в LM Studio рекомендуется выбрать шаблон Llama 3. Модель распространяется по лицензии Llama 3; условия применения следует проверять в лицензии исходной модели.

lmstudio-community/Llama-3-Groq-8B-Tool-Use-GGUF — это GGUF-квантизация дообученной модели Llama 3 8B, разработанной Groq для использования инструментов и вызова функций. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, взаимодействия с API, работы со структурированными данными и выполнения сложных сценариев, в которых требуется выбирать и вызывать внешние инструменты. Модель поддерживает английский язык и использует текстовую модальность. В README указано 8 млрд параметров; размер контекста не указан. Для работы в LM Studio рекомендуется выбрать шаблон Llama 3. Ответы на вызовы функций оформляются в JSON внутри тегов tool_call, а доступные инструменты и их параметры передаются в системном запросе. Заявленная точность на Berkeley Function Calling Leaderboard составляет 89,06%. Сильная сторона модели — специализация на function calling, API-интеграциях и структурированном взаимодействии с инструментами. Ограничения включают отсутствие сведений о размере контекста и конкретных вариантах квантизации, а также ориентацию на английский язык; корректность вызовов зависит от качества описаний инструментов и используемого шаблона запроса. В метаданных указана лицензия llama3.

QuantFactory/Llama-3-Groq-8B-Tool-Use-GGUF — квантизированная версия модели Llama-3-Groq-8B-Tool-Use, созданная QuantFactory с использованием llama.cpp на основе модели Groq. Это авторегрессионная языковая модель с оптимизированной transformer-архитектурой и примерно 8 млрд параметров, дообученная полным fine-tuning и методом Direct Preference Optimization (DPO) на базе Llama 3 8B. Модель предназначена прежде всего для tool use и function calling: взаимодействия с API, обработки структурированных данных и выполнения сложных последовательностей вызовов инструментов. Она принимает текст и генерирует текст с поддержкой вызовов функций в структурированном формате. Заявленный язык — английский; сведения о размере контекста и мультимодальных возможностях отсутствуют. На Berkeley Function Calling Leaderboard модель получила 89,06% общей точности, что в карточке указано как лучший результат среди открытых 8B-моделей. Для общих вопросов и открытой генерации может быть предпочтительнее универсальная языковая модель. Модель способна генерировать неточный или предвзятый контент и требует дополнительных мер безопасности. Результаты чувствительны к параметрам sampling; в качестве отправной точки рекомендованы temperature 0,5 и top_p 0,65. Указана лицензия Meta Llama 3 Community License.

TroyDoesAI/Mermaid-Solar — текстовая генеративная модель на архитектуре Llama с 10,6 млрд параметров. Карточка описывает формат запроса, в котором инструкция и входные данные задают задачу, а ответ содержит Mermaid-код. Модель предназначена для генерации диаграмм Mermaid по текстовым инструкциям и исходным описаниям. Модель принимает текст и выдаёт текст; контекст составляет 4096 токенов. Данные о базовой модели и дополнительных языках не приведены. Лицензия — CC BY 4.0.

TheBloke/Mistral-7B-Instruct-v0.2-AWQ — это 4-битная AWQ-квантизированная версия Mistral 7B Instruct v0.2, разработанной Mistral AI и подготовленной для публикации TheBloke. Модель предназначена для генерации текста и диалоговых сценариев с инструкциями, включая локальный запуск через text-generation-webui, vLLM, Transformers, TGI и AutoAWQ. Для работы используется шаблон запросов Mistral: <s>[INST] {prompt} [/INST]. Модель относится к семейству Mistral, содержит около 7 млрд параметров и поддерживает контекст длиной 4096 токенов. Указана только текстовая модальность; сведения о языках в README отсутствуют. AWQ-квантизация снижает требования к памяти и обеспечивает быстрый инференс на совместимых NVIDIA GPU, при этом заявляется сопоставимое или лучшее качество по сравнению с распространёнными настройками GPTQ. Размер опубликованной сборки составляет около 4,15 ГБ. Основные ограничения связаны с аппаратной и программной совместимостью: AWQ-версия рассчитана на Linux и Windows с NVIDIA GPU, а для macOS рекомендуется использовать формат GGUF. В README также указана лицензия Apache-2.0. Поддержка и качество конкретных задач зависят от исходной модели, настроек инференса и используемого программного окружения.

Это GGUF-квантизированная версия Devstral-2-123B-Instruct-2512 — инструкционной модели, разработанной Mistral AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как mistralai/Devstral-2-123B-Instruct-2512. Распространяется в форматах GGUF для запуска через llama.cpp, LM Studio и совместимые проекты. Модель предназначена для генерации текста и обработки инструкций. В README отдельно упоминается интеграция с mistral-vibe и поддержка tool calling: одиночные вызовы инструментов работают в тестах, однако цепочки вызовов могут работать некорректно. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством ответа, размером файла и требованиями к оперативной памяти; наиболее качественными и рекомендуемыми названы Q6_K, Q5 и некоторые варианты Q4. Размер исходной модели — 123 млрд параметров, а размер файлов зависит от выбранной квантизации и составляет примерно от 56,79 до 132,85 ГБ для указанных вариантов. Сильной стороной являются различные уровни квантизации и совместимость с локальными инструментами на базе llama.cpp. Ограничения включают высокие аппаратные требования, возможное снижение качества на низких уровнях квантизации и неполную надёжность цепочных вызовов инструментов. В метаданных указана лицензия other; конкретные условия лицензирования в README не приведены.

Mistral-Nemo-Instruct-2407-FP8 — квантованная версия текстовой instruction-модели Mistral-Nemo-Instruct-2407, разработанная Neural Magic. Модель принимает текст и генерирует текст, предназначена для коммерческого и исследовательского использования в англоязычных сценариях, прежде всего для диалоговых ассистентов и чат-приложений. Весовые коэффициенты и активации линейных операторов в трансформерных блоках переведены в формат FP8 с использованием симметричной по-тензорной квантизации. Оптимизация сокращает число битов на параметр с 16 до 8, примерно вдвое уменьшает размер на диске и требования к GPU-памяти. Модель рассчитана на эффективный инференс с vLLM версии 0.5.0 и выше; в README для развертывания указан контекст до 4096 токенов. По данным OpenLLM Leaderboard v1, средний результат составляет 71,28 против 71,61 у неквантованной версии, что указывает на небольшую потерю качества при существенном снижении требований к ресурсам. К ограничениям относятся ориентация на английский язык и запрет использования в языках, отличных от английского, а также необходимость учитывать ограничения применимого законодательства. Модель распространяется по лицензии Apache 2.0. Дата выпуска — 18 июля 2024 года, версия 1.0.

OpenHermes-2.5-Mistral-7B-GGUF — квантизированная версия инструкционной языковой модели OpenHermes-2.5-Mistral-7B, разработанной Teknium и преобразованной в формат GGUF компанией Second State Inc. Модель основана на архитектуре Mistral и содержит около 7 млрд параметров. В метаданных указан английский язык; модель предназначена для текстового диалогового взаимодействия и обработки инструкций с использованием шаблона ChatML. Модель подходит для локального запуска чат-ботов и LLM-сервисов, включая использование через LlamaEdge версии 0.2.8 и выше. Заявленный размер контекста составляет 4096 токенов. Доступны варианты квантизации от 2 до 8 бит с размером файлов примерно от 3,08 до 7,7 ГБ. Варианты Q4_K_M, Q5_K_M и Q5_K_S рекомендованы как сбалансированные по качеству и размеру, тогда как варианты с более низкой разрядностью экономят память, но заметно снижают качество. Основные преимущества модели — возможность локального развертывания, широкий выбор уровней квантизации и совместимость с экосистемой LlamaEdge. Ограничения включают относительно небольшой контекст в 4096 токенов и потери качества при использовании низкоразрядных вариантов; README не содержит подробных результатов оценки, сведений о других языках или мультимодальных возможностях. Модель распространяется по лицензии Apache-2.0.

OPT 6.7B Tulu — плотная авторегрессионная языковая модель семейства OPT, разработанная Allen Institute for AI и дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant, GPT4-Alpaca, Code-Alpaca и ShareGPT. Модель содержит 8,8 млрд параметров по метаданным и принимает текстовые запросы для генерации текста по инструкциям; карточка рекомендует передавать сообщение с завершающим переводом строки. Модель предназначена для диалоговых ответов, следования инструкциям, решения задач на рассуждение и помощи с кодом. В исследовании How Far Can Camels Go? её оценивали на MMLU, GSM, BBH, TydiQA и Codex-Eval. Контекст составляет 2048 токенов; указанный в карточке язык — английский. Это полная модель, а не разностный чекпойнт. Она опубликована в формате PyTorch и распространяется по лицензии AI model license, при этом для исходной OPT указана отдельная лицензия opt_license.md. В README приведены сравнительно невысокие результаты на части тестов, включая GSM Direct и Codex-Eval Pass@1, поэтому качество ответов и кода может быть ограниченным.

Orion-14B-Base — базовая мультиязычная большая языковая модель, разработанная OrionStarAI и обученная с нуля. Она содержит 14,1 млрд параметров и обучена на корпусе объёмом 2,5 трлн токенов. Модель использует плотную архитектуру OrionForCausalLM и доступна в формате PyTorch. Модель предназначена для генерации текста и служит основой для прикладных систем и последующего дообучения. По описанию разработчика, она рассчитана на работу с китайским, английским, японским и корейским языками, а также демонстрирует сильные результаты в многоязычных оценках. Заявленная длина контекста — 4096 токенов; возможность обработки сверхдлинных текстов относится к отдельной версии Orion-14B-LongChat. Карточка также отмечает возможности в задачах, связанных с кодом. Ограничения и условия лицензии в предоставленном фрагменте README не описаны; результаты из таблиц оценки не позволяют сделать вывод о качестве для конкретной задачи.

Pernicious Prophecy 70B — англоязычная текстовая модель Black Ink Guild, созданная SicariusSicariiStuff и invisietch для ролевых диалогов, работы ассистента и задач общего назначения. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она использует формат инструкций Llama 3 Instruct и поддерживает контекст до 131 072 токенов по метаданным. Авторы тестировали ролевые сценарии на контексте до 32 768 токенов и рекомендуют этот размер. Модель получена слиянием четырёх моделей Llama 3 и последующим целевым QLoRA дообучением на примерно 18 млн токенов. README приводит примеры развёрнутых творческих ответов и генерации кода, а также отмечает чувствительность к формулировкам запросов. Модель позиционируется как uncensored и может выдавать оскорбительный, опасный или иной нежелательный контент. Указана лицензия llama3.3.

rasyosef/Phi-1_5-Instruct-v0.1 — диалоговая языковая модель на базе Microsoft Phi-1.5, дообученная для выполнения инструкций. Это плотный Transformer с примерно 1,7 млрд параметров; модель распространяется в формате safetensors и рассчитана на контекст до 2048 токенов. Для постобучения применялись supervised fine-tuning на 128 тысячах пар инструкций и ответов из OpenHermes-2.5 и оптимизация предпочтений DPO на нескольких наборах данных. Автор рекомендует подавать запросы в формате system/user/assistant. Модель предназначена для ответов на вопросы, следования инструкциям, рассуждений, решения математических задач и генерации кода. В карточке приведены результаты на IFEval, GSM8K, MMLU, TruthfulQA и Winogrande, однако эти оценки не гарантируют точности ответов в практических задачах. Как и другие компактные языковые модели, она может ошибаться и имеет ограниченный контекст. Лицензия — MIT.

Xenova/Phi-3-mini-4k-instruct — оптимизированная ONNX-версия инструкционной языковой модели Phi-3 Mini, подготовленная для запуска через Transformers.js и onnxruntime-web. Модель предназначена для генерации текста и диалогового взаимодействия в браузерных и JavaScript-приложениях, включая ответы на вопросы, решение задач и выполнение инструкций. Модель содержит 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. Веса представлены в формате FP16 с блочным квантованием INT4; выход logits имеет формат FP32. Для совместимости с onnxruntime-web используется архитектурная модификация с MHA вместо GQA, а файлы модели ограничены размером менее 2 ГБ для кэширования в Chromium. Модель распространяется через библиотеку Transformers.js и использует ONNX Runtime. Лицензия MIT разрешает свободное использование при соблюдении её условий. Квантование INT4 может снижать точность по сравнению с полноразмерной версией, а ограничение контекста в 4096 токенов не позволяет эффективно работать с очень длинными документами. Возможности модели зависят от ресурсов устройства и производительности браузерной среды.

MaziyarPanahi/Phi-4-mini-instruct-GGUF — это набор квантованных файлов в формате GGUF для исходной модели microsoft/Phi-4-mini-instruct. Базовую модель разработала Microsoft, а квантование и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью. Набор содержит варианты с квантованием 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF ориентирован на локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Архитектура, количество параметров, поддерживаемые языки и размер контекста в предоставленных данных не указаны. Ключевые преимущества — доступность нескольких уровней квантования и совместимость с широким набором локальных средств запуска, включая варианты с GPU-ускорением и OpenAI-совместимыми API. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, а также с зависимостью характеристик производительности от выбранного варианта и оборудования. Лицензия в README не указана.

Карточка модели LIF1014/ptdbench-verl-coding-tasks-function-call на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

MaziyarPanahi/Qwen2.5-7B-Instruct-GGUF — это набор файлов модели в формате GGUF для Qwen2.5-7B-Instruct, разработанной командой Qwen. Квантованные версии опубликованы пользователем MaziyarPanahi и предназначены для локального запуска задач генерации текста, включая диалоговое взаимодействие и другие сценарии применения instruction-tuned модели. Модель содержит варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат GGUF поддерживается llama.cpp и совместимыми инструментами, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, Faraday.dev, candle и ctransformers. В README не указаны архитектурные детали, объём контекста, поддерживаемые языки, модальности, результаты оценивания или конкретные ограничения качества. Лицензия в предоставленных данных не указана. Для использования необходимо учитывать условия лицензии исходной модели Qwen2.5-7B-Instruct и правила распространения опубликованных квантованных файлов.