II.2Создание и понимание программного кода

MaziyarPanahi/Llama-3.2-1B-Instruct-GGUF — набор файлов модели в формате GGUF для Meta Llama 3.2 1B Instruct, разработанной Meta (meta-llama) и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и использования в локальных приложениях, чат-интерфейсах и серверных решениях, совместимых с GGUF. Архитектура и точные характеристики исходной модели, включая размер контекста и поддерживаемые языки, в README не указаны. Доступны варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; возможна аппаратная GPU-акселерация. Сильной стороной является удобство локального запуска и широкий выбор уровней квантизации. Ограничения, точные показатели качества и особенности работы с отдельными языками в README не описаны. Условия лицензирования в предоставленных данных не указаны.

MaziyarPanahi/luxia-21.4b-alignment-v1.0-GGUF — это набор квантованных файлов модели luxia-21.4b-alignment-v1.0 в формате GGUF. Исходную модель разработала команда saltlux, а квантование выполнил MaziyarPanahi. Модель предназначена для генерации текста и может использоваться в локальных приложениях и библиотеках, совместимых с GGUF, включая llama.cpp, text-generation-webui, LM Studio и llama-cpp-python. Модель содержит около 21,4 млрд параметров и доступна в вариантах квантования от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Это позволяет выбирать компромисс между размером файлов, требованиями к памяти, скоростью и качеством генерации. В метаданных указана совместимость с текстовой генерацией; тег en указывает на поддержку английского языка. Сведения о длине контекста, конкретной архитектуре, дополнительных модальностях и результатах тестирования не приведены. Основные преимущества — широкий выбор уровней квантования и возможность запуска в различных локальных инструментах с CPU или GPU-ускорением. Ограничения включают потенциальную потерю качества при использовании низкобитных вариантов, а также отсутствие в предоставленных данных подробной информации о назначении alignment-версии, языковом охвате, контекстном окне и бенчмарках. Для модели указана лицензия Apache-2.0.

MaziyarPanahi/M7T3qm7xp_Percival_01Experiment26 — объединённая модель для генерации текста, созданная на основе automerger/M7T3qm7xp-7B и automerger/Percival_01Experiment26-7B. Это плотная причинно-языковая модель семейства Mistral с 7,1 млрд параметров, представленная в формате Safetensors и рассчитанная на контекст до 32 768 токенов. Модель подходит для генерации и продолжения текста в сценариях, где требуется учитывать длинный контекст. В карточке указана лицензия Apache 2.0. README не уточняет специализацию или результаты оценки качества, поэтому пригодность для конкретных предметных областей по имеющимся сведениям определить нельзя.

han1997/mamba-2.8b-zephyr-hf — совместимое с библиотекой Transformers представление языковой модели Mamba-2.8b-zephyr. Репозиторий содержит исходные веса без изменений, а также конфигурацию и токенизатор, необходимые для их использования через Transformers. В карточке указана архитектура MambaForCausalLM и размер 3,5 млрд параметров. Модель предназначена для генерации текста с помощью стандартного интерфейса generate; её можно также дообучать с помощью PEFT. README рекомендует для PEFT сохранять модель в формате float32. Для работы карточка указывает зависимость от версии Transformers из основной ветки, пока не выйдет версия 4.39.0. Лицензия — Apache-2.0. Данные не уточняют языки обучения или контекст модели.

MaziyarPanahi/mergekit-slerp-dafvhck-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi для исходной модели mergekit-community/mergekit-slerp-dafvhck. Разработчиком исходной модели указано сообщество mergekit-community; сама модель создана с использованием mergekit и объединяет базовые модели arcee-ai/sec-mistral-7b-instruct-1.6-epoch и cognitivecomputations/dolphin-2.8-mistral-7b-v02. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью работы и качеством генерации. Указана принадлежность к семейству Mistral и поддержка текстовой модальности, однако точный размер контекстного окна, языки, архитектурные параметры и результаты тестирования в README не приведены. К сильным сторонам относятся компактные квантованные варианты и широкая совместимость с инструментами локального инференса, включая llama.cpp, llama-cpp-python, LM Studio и text-generation-webui. Ограничения связаны с отсутствием в README подробных оценок качества, описания поведения после слияния моделей и рекомендаций по аппаратным требованиям. Лицензия для этой версии или исходной модели не указана.

MaziyarPanahi/mergekit-slerp-ryidhrq-GGUF — это набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели mergekit-community/mergekit-slerp-ryidhrq, разработанной сообществом mergekit-community. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. В основе лежит объединение моделей WizardLM/WizardMath-7B-V1.1 и NousResearch/Hermes-2-Pro-Mistral-7B; в метаданных также указана архитектурная принадлежность к Mistral и размер класса 7B. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать между требованиями к памяти и качеством генерации. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другими совместимыми инструментами. Поддерживаемые языки, размер контекстного окна и точные характеристики качества в README не указаны. Сильными сторонами являются широкий выбор квантованных вариантов и удобство локального инференса на различных платформах. Ограничения включают отсутствие в README результатов оценки, сведений о языках, контексте и подробностей исходного слияния. Лицензия для модели в предоставленных данных не указана.

MaziyarPanahi/mergekit-slerp-xyweuvi-GGUF — это набор файлов модели в формате GGUF для текстовой генерации. Исходную модель разработало сообщество mergekit-community, а данный репозиторий подготовил MaziyarPanahi; оригинальная модель называется mergekit-community/mergekit-slerp-xyweuvi и создана методом объединения моделей с использованием mergekit. В метаданных указаны базовые модели HuggingFaceH4/zephyr-7b-beta и Equall/Saul-Base. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и совместимые инструменты. Формат GGUF ориентирован на эффективное использование квантованных вариантов с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Также заявлена совместимость с Transformers, safetensors, text-generation-inference и OpenAI-совместимыми серверными интерфейсами через поддерживаемые клиенты. Ключевые характеристики архитектуры, точный размер, длина контекста, языки и поддерживаемые модальности в README не указаны. Поэтому нельзя достоверно оценить качество, специализацию или ограничения модели за пределами общей ориентации на текстовую генерацию. Лицензия в предоставленных данных также не указана; условия использования следует уточнять в карточке исходной модели и репозитории GGUF.

Это перешардированная версия Mistral-7B-v0.1 от команды Mistral AI: веса разделены на шесть файлов вместо двух, чтобы упростить загрузку модели на машинах с ограниченной оперативной памятью, например в бесплатной среде Google Colab. Модель содержит 7,1 млрд параметров и предназначена для генерации текста на основе предварительно обученной трансформерной языковой модели; её архитектура включает Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Контекст составляет до 32 768 токенов. Модель подходит как базовая для генерации продолжений текста и экспериментов с языковыми моделями. Это не чат-модель с настроенными механизмами модерации: карточка предупреждает, что у неё нет встроенных средств модерации. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache 2.0.

Sharathhebbar24/Mistral-7B-v0.1-sharded — шардированная версия предварительно обученной генеративной языковой модели Mistral-7B-v0.1, разработанной командой Mistral AI. Модель построена на архитектуре Transformer с 7,1 млрд параметров; использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Для работы с моделью рекомендуется Transformers версии 4.34.0 или новее. Модель предназначена для генерации текста и служит базовой моделью для дальнейшей адаптации под конкретные задачи. В карточке указаны английский язык и контекстное окно до 32 768 токенов. Модель не имеет механизмов модерации, поэтому её ответы могут содержать неподходящий контент. Лицензия — Apache-2.0.

NekoMind1.7-Base — базовая предварительно обученная языковая модель серии NekoMind от nekocyrene для генерации текста. Она предназначена для дальнейшей адаптации и использования в сценариях генерации и диалога; метаданные также отмечают интерфейс вызова инструментов. Модель основана на декодерном Transformer с архитектурой Mixture-of-Experts: 20 слоёв, 32 эксперта с маршрутизацией top-4 в 18 слоях и около 300 млн активируемых параметров на токен. README указывает 1,5 млрд параметров всего, тогда как метаданные каталога — 284,4 млн; это расхождение не позволяет надёжно указать общий размер. Контекст составляет 32 768 токенов. Репозиторий содержит веса safetensors, лицензия — Apache-2.0. Для загрузки нужны Transformers версии 4.51.0 или выше и PyTorch версии 2.1.0 или выше; для пользовательского кода модели требуется trust_remote_code=True. README не сообщает, на каких естественных языках обучена модель, поэтому её языковую поддержку нельзя конкретизировать. Это базовая модель, а не готовая инструкцияная модель: качество диалога и вызова инструментов зависит от настройки и обвязки приложения.

typeof выпустила OpenLLaMA 3B v2 — открытую воспроизводимую модель семейства LLaMA для генерации текста. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и 3,3 млрд параметров, предназначенная для использования в приложениях и исследованиях как замена исходной LLaMA. Модель предварительно обучена на смеси открытых наборов данных Falcon RefinedWeb, StarCoder и частей RedPajama; длина контекста составляет 2048 токенов. README описывает серию OpenLLaMA как обученную на 1 трлн токенов и сообщает о сопоставимых с LLaMA результатах на большинстве рассмотренных бенчмарков. Модель принимает текст и генерирует продолжение, поэтому её можно использовать для написания черновиков, продолжения фрагментов и создания прототипов текстовых ассистентов. Карточка рекомендует отключить быстрый токенизатор Transformers: его автоматическая конверсия может давать неверную токенизацию, что способно искажать ответы и результаты оценки. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. README отмечает возможное загрязнение обучающих данных в отдельных бенчмарках.

Это пакет GGUF-файлов с весами Ornith-1.0-397B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого запуска модели на локальном кластере из нескольких машин. Пакет создан из unsloth/Ornith-1.0-397B-GGUF и сохраняет исходное распределение GGUF, разделённое на артефакты по слоям; вариант весов — UD-Q4_K_XL. Модель предназначена для локального приватного чат-инференса, в том числе на нескольких узлах, когда полный файл слишком велик для одного компьютера. Mesh LLM позволяет предоставлять запросы через локальный API, совместимый с OpenAI Chat Completions. Это пакет модели для text-generation, а не самостоятельный сервер: для запуска требуется Mesh LLM и подходящая распределённая инфраструктура. Сведения об архитектуре, языках, контексте и лицензии следует сверять с карточкой исходной модели; README этого пакета отсылает к ней, но не приводит эти характеристики. Репозиторий создан 18 июля 2026 года. Голоса лицензии и отдельные ограничения применения в предоставленных материалах не указаны.

Ouro-1.4B-Thinking-depth-GRPO — дообученная модель omar81939 на базе ByteDance/Ouro-1.4B-Thinking. Это плотная авторегрессионная языковая модель семейства Ouro с архитектурой OuroForCausalLM, предназначенная для генерации текста и диалоговых ответов с рассуждениями. В названии и метаданных отмечены GRPO и рекуррентная глубина; README содержит пример загрузки через Transformers и задаёт параметр DEPTH=16. Модель содержит 1,3 млрд параметров, работает с контекстом до 65 536 токенов и распространяется в формате safetensors. Указаны сценарии математических задач и общения; базовая модель также предназначена для рассуждений в науке и коде. Данные не подтверждают отдельную специализацию этой версии за пределами генерации текста и диалога. Модель подходит для экспериментов и приложений, которым нужна компактная генерация текста с длинным контекстом. Лицензия Apache-2.0.

Gensyn распространяет эту версию Qwen2.5-0.5B-Instruct для локального постобучения с помощью обучения с подкреплением в распределённой системе Gensyn RL Swarm. Это плотная авторегрессионная языковая модель на архитектуре Qwen2 с 494 млн параметров; в README указаны 24 слоя, GQA и компоненты RoPE, SwiGLU и RMSNorm. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Контекст составляет до 32 768 токенов, максимальная длина генерации по README — 8 192 токена. В метаданных указан английский язык. Репозиторий описан как неизменённая версия instruction-tuned Qwen2.5-0.5B, предназначенная прежде всего для постобучения в RL Swarm; лицензия — Apache-2.0. Ограничения и оценки качества именно этой версии в карточке не приведены.

SirSahOl подготовил 16-битную конверсию чат-модели Qwen2.5-3B-Instruct в формат MLX для запуска на компьютерах Apple Silicon. Это плотная авторегрессионная языковая модель с 3,1 млрд параметров, поддерживающая генерацию текста и диалоговый режим. Заявленная длина контекста — 32 768 токенов. Модель подходит для диалогов, выполнения инструкций и генерации текста на устройстве. Поведение и архитектура унаследованы от Qwen2.5-3B-Instruct; репозиторий содержит веса safetensors в 16-битном представлении. Для запуска требуется Apple Silicon с M1 или новее и библиотека MLX. Карточка указывает лицензию как other. Бенчмарки не приведены; в README отмечено возможное ухудшение качества на длинном контексте при низкой разрядности, а также небольшая потеря качества при квантовании. Для этой 16-битной конверсии отдельные измерения производительности не представлены.

Qwen3-0.6B-MLX-4bit — это 4-битная квантованная версия языковой модели Qwen3-0.6B, разработанной командой Qwen. Квантование в формате MLX предоставлено командой LM Studio с использованием mlx_lm; модель предназначена для запуска на устройствах с Apple Silicon. Модель относится к задачам генерации текста и может использоваться в сценариях локального запуска языковых моделей на совместимом оборудовании. Известно, что она основана на Qwen3-0.6B, использует 4-битное квантование и оптимизирована для MLX и Apple Silicon. Сведения об архитектуре, количестве параметров помимо обозначения 0.6B, поддерживаемых языках, размере контекста и доступных модальностях в README не указаны; по представленным данным это текстовая, а не мультимодальная модель. Ключевые преимущества — уменьшенный объём хранения и потенциально более эффективный локальный запуск благодаря 4-битному квантованию и оптимизации под Apple Silicon. Ограничения включают возможное снижение точности по сравнению с исходной моделью и зависимость от совместимой экосистемы MLX; конкретные показатели качества и производительности не приведены. Модель распространяется по лицензии Apache-2.0.

lmstudio-community/Qwen3-1.7B-MLX-8bit — это 8-битная версия языковой модели Qwen3-1.7B, разработанной командой Qwen и преобразованной в формат MLX сообществом lmstudio-community с помощью mlx-lm 0.24.0. Модель предназначена для генерации текста и может использоваться через библиотеку mlx-lm с поддержкой chat template, если он задан в токенизаторе. Модель содержит около 1,7 млрд параметров и работает в 8-битном представлении, что снижает требования к памяти по сравнению с полноразмерными вариантами. Она ориентирована на текстовые сценарии: ответы на запросы, диалоговую генерацию и другие задачи, поддерживаемые базовой моделью Qwen3-1.7B. README не содержит сведений об архитектуре, языках, размере контекста, результатах тестирования и специфических сильных сторонах. Использование модели регулируется лицензией Apache 2.0. Ограничения включают отсутствие в предоставленных данных подробностей о поддерживаемых языках, контекстном окне, качестве на конкретных задачах и требованиях к аппаратному обеспечению.

Qwen3.6-27B-Fable-Fusion-711-MTP-MagicQuant-GGUF — производная GGUF-модель на базе Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP. Репозиторий опубликован lmcoleman, а квантование выполнено MagicQuant методом гибридного эволюционного поиска по отдельным тензорам. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio или llama-cpp-python; заявленный язык — английский. Модель имеет размер 27 млрд параметров и поставляется в вариантах Q4, Q5, Q6 и Q8 с гибридными схемами квантования. Для разных групп тензоров подбираются отдельные типы квантования, а чувствительные компоненты, включая embeddings, output head и router, сохраняются в F32, F16 или BF16. Рекомендуемым вариантом назван Q5: он занимает около 17,68 ГиБ и обеспечивает качество, статистически сопоставимое с более крупным Q6. Доступен также файл mmproj-F16 для обработки изображений; поддержка мультимодального ввода зависит от совместимого vision-компонента. Сильными сторонами являются хорошее соотношение качества и размера, выбор нескольких уровней квантования и сохранение чувствительных слоёв с высокой точностью. Ограничения включают необходимость значительного объёма памяти, зависимость возможностей от llama.cpp и выбранного файла квантования, а также отсутствие в README точных сведений о максимальной длине контекста, архитектурных деталях MTP и качестве на независимых тестах. Указана лицензия Apache-2.0; для производной модели применяется лицензия базовой модели.

Qwen3.6-35B-A3B-uncensored-heretic-GGUF — GGUF-квантизации децензурированной версии модели Qwen3.6-35B-A3B. Модель подготовлена независимым разработчиком llmfan46 на основе Qwen/Qwen3.6-35B-A3B с использованием Heretic v1.2.0 и варианта метода Magnitude-Preserving Orthogonal Ablation (MPOA). Архитектура относится к семейству Qwen3.5 MoE; обозначение модели указывает на общий размер около 35 млрд параметров и активную часть около 3 млрд параметров, однако точные характеристики GGUF-квантизаций в README не приведены. Модель предназначена для генерации текста и диалоговых сценариев, где требуется меньше отказов, возражений, морализаторства и других ограничений исходной модели. По заявленным результатам, доля отказов снизилась с 83 до 10 из 100 тестовых запросов при KL-дивергенции менее 0,0015, что указывает на близость к исходной модели по поведению. README также содержит метрики MMLU исходной модели, но не приводит сопоставимых результатов для этой модификации. К сильным сторонам относятся сохранение близости к базовой модели и существенно менее ограниченное поведение. Ограничения включают отсутствие данных о точной квантизации, размере контекста, поддерживаемых языках, фактических мультимодальных возможностях и требованиях к оборудованию. Снижение ограничений может повышать риск генерации небезопасного или нежелательного контента, поэтому модель требует самостоятельной проверки результатов. Указана лицензия Apache-2.0.

Qwen3.8-27B-Uncensored-OrcaRouter-MLX-8bit — неофициальный нативный MLX-чекпойнт, опубликованный пользователем chimingw и созданный на основе Qwen3.8-27B от Qwen/Alibaba через F16-версию orcarouter/Qwen3.8-27B-Uncensored-GGUF. Это плотная vision-language модель с поддержкой текста и изображений, а также MTP-головой для speculative decoding. Модель предназначена для задач понимания и генерации текста по текстовым и визуальным входам, исследовательских экспериментов, интерпретируемости, red-teaming и оценки устойчивости моделей. Заявленные языки — английский и китайский. Модель содержит около 27 миллиардов параметров и использует смешанное хранение: подходящие матрицы квантизированы в нативный MLX affine 8-bit с group size 64, а часть тензоров сохраняется в форматах F16, BF16 или F32. Конвертация не включает дополнительное обучение, дообучение, слияние или изменение выравнивания. Формат MLX ориентирован на запуск в экосистеме Apple Silicon. Размер контекстного окна и точные требования к памяти в README не указаны. К сильным сторонам относятся мультимодальность, поддержка MLX, сохранение исходной точности для ряда тензоров и уменьшенный по сравнению с полной точностью объём хранения. При этом модель является uncensored-версией: согласно заявлению издателя, её защитное выравнивание существенно удалено, поэтому она может отвечать на вредоносные, незаконные и иные опасные запросы. Заявления о поведении, качестве и безопасности не были независимо подтверждены; модель не предназначена для прямого использования конечными пользователями без собственных механизмов модерации и защиты. Лицензия — Apache 2.0.

AMD представляет эту модель как квантизированную версию Qwen3-VL-8B-Instruct. Она предназначена для генерации текста на основе текстовых запросов и оптимизирована для CPU-инференса на процессорах AMD EPYC под Linux с использованием vLLM и ZenDNN. Модель построена на архитектуре Qwen3VLForConditionalGeneration и использует 4-битное асимметричное квантизирование весов W4A16 с размером группы 128. Квантизация выполнена средствами TorchAO 0.17.0; обработаны линейные слои, кроме lm_head и embed_tokens. В README явно указан текстовый вход и текстовый выход, а также английский язык. Размер базовой модели — 8B параметров, однако характеристики контекста и фактическая поддержка других модальностей в этой карточке не описаны. Основное преимущество модели — снижение требований к памяти и возможность оптимизированного инференса на AMD EPYC через ZenDNN. При этом она жёстко привязана к PyTorch 2.11.0, ZenDNN 6.0.0, ZenTorch 2.11.0.1, TorchAO 0.17.0 и vLLM 0.20.2, не предназначена для GPU и не поддерживает данный путь квантизации в native PyTorch. Результаты заявленных бенчмарков пока отсутствуют, поэтому влияние квантизации на качество не подтверждено. Модель распространяется на условиях лицензии исходной модели; в README указана Apache-2.0.

Это текстовая генеративная модель семейства Llama с плотной архитектурой LlamaForCausalLM, размещённая пользователем pxyyy на Hugging Face. В репозитории указаны веса в формате safetensors; модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста. Карточка не описывает специальные сценарии применения, обучение, базовую модель, поддерживаемые языки или лицензию, поэтому её пригодность для конкретной задачи и условия использования следует проверять отдельно. README автоматически сгенерирован и не содержит сведений о качестве, обучающих данных и ограничениях.

SicariusSicariiStuff_Phi-Line_14B-GGUF — это набор GGUF-квантизированных версий языковой модели Phi-Line_14B, разработанной SicariusSicariiStuff и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запускается локально через llama.cpp, LM Studio и другие совместимые проекты. Указана поддержка английского языка и текстовая модальность. Доступны варианты квантизации от Q2_K_L до Q8_0 размером примерно от 6,22 до 15,58 ГБ. Более высокие варианты обеспечивают лучшее качество, а низкобитные позволяют снизить требования к оперативной памяти, но могут заметно уступать по качеству. Для работы рекомендуется использовать формат сообщений с ролями system, user и assistant, разделёнными специальными токенами. В README не указаны точная архитектура, максимальный размер контекста, результаты оценивания, требования к оборудованию и ограничения исходной модели. Репозиторий распространяется по лицензии MIT.

SmolLM2-1.7B-WithChatTemplate-DPO-Tulu3-decontaminated-masked — чат-модель, разработанная ali-elganzory и дообученная методом DPO на базе ali-elganzory/SmolLM2-1.7B-SFT-Tulu3-decontaminated-masked с использованием TRL. Она построена на плотной архитектуре семейства Llama и предназначена для генерации ответов в диалоге; карточка показывает запуск через Transformers с шаблоном chat-сообщений. Модель содержит 1,7 млрд параметров, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Сведения о лицензии и языковом охвате в предоставленных данных отсутствуют.

Glistening-Gem-31B-v2.0-GGUF — это квантизированная версия текстовой генеративной модели sophosympatheia/Glistening-Gem-31B-v2.0, подготовленная bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и поддерживает текстовый ввод; заявленный язык — английский. В README также указано, что исходная модель связана с mergekit и относится к категории not-for-all-audiences. Модель содержит около 31 млрд параметров. Доступны варианты от BF16 до различных квантовок Q3–Q8 и IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти; например, рекомендуемый вариант Q4_K_M занимает около 19,60 ГБ. Для запуска следует использовать указанный в README формат prompt и совместимое ПО на базе llama.cpp. Поддержка дополнительных модальностей не заявлена: текстовый multimodal-проектор из upstream был неисправен, поэтому модель следует считать текстовой. Сильной стороной является широкий выбор квантовок, включая варианты с imatrix, позволяющий адаптировать модель к разным аппаратным ограничениям при сохранении приемлемого качества. Ограничения — отсутствие заявленной поддержки изображений, неизвестные архитектура, размер контекста, показатели качества и подробные сценарии обучения; поэтому возможности модели за пределами общего текстового генерирования по README оценить нельзя. Распространение указано по лицензии Apache-2.0.

TabPFN-v2-clf — трансформерная базовая модель для классификации табличных данных, разработанная Prior Labs. Она применяет обучение на основе априорных распределений по данным и предназначена для классификации на небольших табличных наборах без отдельного обучения модели под каждую задачу. В репозитории размещены производственные базовые чекпойнты; файлы с суффиксом finetuned-* являются идентичными псевдонимами соответствующих базовых чекпойнтов. Модель работает с табличными данными и выдаёт результаты классификации. Для использования предусмотрена библиотека tabpfn на базе PyTorch. В карточке указана лицензия Prior Labs License — Apache 2.0 с дополнительным требованием атрибуции. README приводит требования к программной среде и оборудованию, но не сообщает о поддерживаемых естественных языках или конкретном пределе размера входного набора.

Fallen-Gemma3-27B-v1-GGUF — это GGUF-квантизированная версия модели Fallen-Gemma3-27B-v1, разработанной TheDrummer и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска через llama.cpp, LM Studio и другие совместимые приложения. В README указано, что квантизация выполнена с использованием llama.cpp b4925 и метода imatrix. Модель относится к семейству Gemma 3 и имеет размер 27 млрд параметров. Доступны варианты от BF16 до квантов Q8, Q6, Q5, Q4 и Q3, различающиеся размером файлов, требованиями к памяти и качеством. Размер вариантов составляет примерно от 12,17 до 54,03 ГБ. Для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K или другие варианты с соответствующим балансом качества и потребления памяти. README не содержит сведений о поддерживаемых языках, длине контекста, мультимодальности, результатах тестирования или конкретной специализации исходной модели. Сильной стороной модели является широкий выбор квантизаций и возможность локального запуска на совместимом оборудовании. Более компактные варианты подходят для систем с ограниченной оперативной памятью, но обеспечивают более низкое качество; BF16 и старшие кванты требуют значительных ресурсов. Для корректной работы следует использовать указанный шаблон промпта Gemma и совместимое программное обеспечение. Лицензия обозначена как other, однако её конкретные условия в README не приведены.

WhiteRabbitNeo-13B-v1-GGUF — это набор файлов модели в формате GGUF для оригинальной модели WhiteRabbitNeo-13B-v1, разработанной командой WhiteRabbitNeo и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и локального запуска с помощью совместимых инструментов, включая llama.cpp, text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. Модель содержит 13 миллиардов параметров и относится к семейству моделей на базе LLaMA. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать баланс между размером файла, требованиями к памяти и качеством генерации. Поддерживается текстовая модальность; сведения о языках, размере контекста и специализированных задачах в README не указаны. Главное преимущество — возможность запуска в оптимизированном GGUF-формате на широком спектре локальных приложений и аппаратных конфигураций. Ограничения связаны с компромиссами квантизации: варианты с меньшей разрядностью обычно требуют меньше памяти, но могут уступать по качеству менее квантизированным версиям. Модель распространяется с лицензией Llama 2.

Wizard-Vicuna-13B-Uncensored-GGUF — квантизированная GGUF-версия языковой модели Wizard Vicuna 13B Uncensored. Исходную модель разработал Eric Hartford, а квантизацию выполнила Second State Inc. Модель основана на архитектуре Llama, содержит 13 млрд параметров и предназначена для генерации текста и диалогового взаимодействия на английском языке. Модель рассчитана на запуск локально, в том числе через LlamaEdge, с шаблоном запросов vicuna-1.0-chat и контекстом до 5120 токенов. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 4,85 до 13,8 ГБ. Основное преимущество — возможность запускать крупную модель на устройствах с ограниченными ресурсами; варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые из-за баланса размера и качества. Более сильная квантизация уменьшает требования к памяти, но может заметно снижать качество ответов. Модель имеет пометку uncensored, поэтому может генерировать нежелательный или небезопасный контент и требует дополнительного контроля при использовании. README не содержит подробных сведений о возможностях, результатах оценки, мультимодальности или точных условиях лицензии: указано только значение license: other.

TheBloke/Wizard-Vicuna-7B-Uncensored-HF — версия в формате Hugging Face модели Eric Hartford Wizard-Vicuna 7B, преобразованная TheBloke из float32 в float16 для хранения и дальнейшего использования. Это плотная авторегрессионная языковая модель семейства LLaMA с 6,6 млрд параметров и контекстом 2048 токенов. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций. В основе обучения — LLaMA-7B и подмножество Wizard-Vicuna; из обучающих данных удалялись ответы с выравниванием и морализаторством. Поэтому модель рассчитана на сценарии, где разработчик хочет самостоятельно задавать ограничения или добавлять выравнивание, например с помощью RLHF LoRA. Карточка предупреждает, что у модели нет встроенных защитных ограничений. Репозиторий содержит веса PyTorch в формате float16 для GPU-инференса и последующих конверсий. В метаданных указан английский язык. Лицензия обозначена как other; конкретные условия использования следует сверить с лицензией репозитория и исходных компонентов.