II.2Создание и понимание программного кода

Tulu V2.5 DPO 13B HH-RLHF 60k — англоязычная чат-модель AllenAI для диалогов с помощником и генерации текста. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе allenai/tulu-2-13b с помощью DPO на случайной выборке из 60 тысяч примеров HH-RLHF. В обучении также использовалась смесь инструкций Tulu V2. Модель рассчитана на ответы на инструкции, диалоги и другие задачи генерации текста на английском языке. Контекст составляет 4096 токенов; для диалогов предусмотрен шаблон чата в токенизаторе, а форматирование сообщений влияет на качество генерации. Модель может выдавать проблемные ответы: этап RLHF не был специально направлен на безопасную генерацию, и встроенная фильтрация ответов не использовалась. Распространяется по лицензии Apache 2.0.

Venice Uncensored — разговорная модель, созданная Venice.ai совместно с Эриком Хартфордом и командой Dolphin AI. Это объединённая версия на базе Dolphin-Mistral-24B-Venice-Edition и Mistral-Small-24B-Instruct-2501, построенная на плотной архитектуре Mistral; модель содержит 23,4 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям. В README подчёркнуты настраиваемое системное сообщение и отсутствие встроенных отказов по моральным основаниям, поэтому её поведение и ограничения во многом задаются пользователем. Карточка описывает текстовый чат и рекомендует запуск через vLLM или Transformers. Модель распространяется по лицензии Apache-2.0. Отсутствие жёстких встроенных ограничений означает, что ответы могут содержать небезопасный или неприемлемый контент; качество зависит от запроса, системного промпта и настроек генерации.

YamshadowInex12_YamExperiment26 — объединённая модель для генерации текста, созданная на основе automerger/YamshadowInex12-7B и automerger/YamExperiment26-7B. В карточке указано, что это merge двух моделей; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, веса опубликованы в формате Safetensors. Модель предназначена для генерации текста и принимает контекст длиной до 32 768 токенов. README не уточняет специальные сценарии применения или поддерживаемые языки. Модель распространяется по лицензии Apache-2.0.

Chuxin-1.6B-Base — базовая языковая модель семейства Chuxin, представленная в репозитории chuxin-llm. Она содержит около 1,4 млрд параметров по метаданным, а в карточке округлённо указано 1,6 млрд. Модель построена на архитектуре LLaMA и доступна в формате PyTorch; для генерации текста ей передают текстовый контекст, а она продолжает его. Разработчики сообщают, что модель обучена на открытых данных и предназначена для использования в различных последующих задачах. В карточке приведены сравнения на тестах рассуждения, понимания прочитанного, знаний и программирования. Заявленный размер контекстного окна — 4096 токенов. Лицензия MIT допускает широкое использование с соблюдением её условий. Это базовая, а не специализированная на конкретной прикладной области модель; для диалогового применения или других заданий может потребоваться дополнительная настройка. Результаты бенчмарков в карточке частично получены разработчиками, а частично взяты из публикаций и Open LLM Leaderboard, поэтому напрямую сопоставлять их следует с осторожностью.

mlx-community/gemma-3-1b-pt-bf16 — текстовая плотная авторегрессионная модель семейства Gemma 3, преобразованная сообществом mlx-community из google/gemma-3-1b-pt в формат MLX с помощью mlx-lm 0.21.6. Число параметров — 1 млрд, контекст — до 32 768 токенов. Модель предназначена для генерации текста и может служить основой для дальнейшей адаптации и запуска через mlx-lm. Модель принимает текст и генерирует текст. В метаданных указан английский язык; других подтверждённых языков нет. Репозиторий использует формат safetensors. Лицензия — Gemma; условия использования определяются лицензией Google Gemma. README подтверждает конвертацию, однако формат MLX не указан среди форматов файлов в метаданных, поэтому точный формат представленных весов по имеющимся данным определить нельзя.

GLM-4.7-Flash-MLX-8bit — это 8-битно квантованная версия языковой модели GLM-4.7-Flash, разработанной компанией zai-org. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и доступна в экосистеме Transformers. Модель поддерживает английский и китайский языки и относится к моделям text generation. Ключевое преимущество — оптимизация в формате MLX и 8-битное представление, что делает её подходящей для локального использования на Apple Silicon при сниженных требованиях к памяти по сравнению с полноразмерной версией. В README не указаны точный размер модели, архитектура, длина контекста, мультимодальные возможности и результаты тестирования, поэтому её производительность и область применения нельзя оценить подробнее. Лицензия модели — MIT.

Goekdeniz-Guelmez_Josiefied-Qwen3-8B-abliterated-v1-GGUF — это набор GGUF-квантизаций модели Josiefied-Qwen3-8B-abliterated-v1, разработанной Goekdeniz-Guelmez и подготовленной пользователем bartowski. Модель предназначена для генерации текста и чат-сценариев, а также для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты от исходных весов BF16 размером 16,39 ГБ до квантизаций с меньшим потреблением памяти, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и другие. Квантизация выполнена с использованием imatrix и llama.cpp b5270. Для диалогов используется шаблон с ролями system, user и assistant в формате ChatML. Архитектура, размер контекста, поддерживаемые языки и модальности в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других非текстовых данных. Сильная сторона набора — широкий выбор уровней квантизации для разных объёмов памяти и оборудования. В README Q6_K_L, Q6_K, Q5_K_L, Q5_K_M и Q4_K_M отмечены как рекомендуемые варианты с хорошим балансом качества и размера, а Q3_K_XL и компактные форматы подходят для систем с ограниченной оперативной памятью. Ограничения включают возможную потерю качества при низких уровнях квантизации, а также отсутствие в README сведений о лицензии, результатах тестирования, языковых возможностях и безопасностных характеристиках модели.

devpramod-intel/granite-4.1-3b-quantized.w8a8 — квантованный вариант языковой модели ibm-granite/granite-4.1-3b, опубликованный пользователем devpramod-intel. Модель предназначена для генерации текста и бенчмаркинга производительности инференса, в частности для оценки INT8/AMX на процессорах Xeon и INT8-ядер на GPU. Заявленный язык — английский. Это плотная модель класса GraniteForCausalLM примерно на 3 млрд параметров с Llama-подобными блоками, q/k/v-проекциями, gate/up/down-проекциями и RMSNorm. Используется посттренировочная квантование W8A8: веса INT8, симметричные и по-канальные, активации INT8, симметричные и динамические на уровне токенов. Квантованы линейные слои трансформерных блоков, тогда как lm_head, связанная с ним матрица эмбеддингов и нормы сохранены в BF16. Размер контрольной точки на диске — около 3,89 GiB. Для запуска предусмотрена интеграция с Transformers и vLLM; в примерах используется максимальная длина контекста до 32768 токенов. Главное преимущество модели — уменьшенный размер и потенциально более высокая эффективность INT8-инференса при сохранении большей части исходной точности. Однако для этой контрольной точки оценка качества не проводилась, поэтому приведённые в README показатели являются оценками по другим моделям и не подтверждают характеристики данного варианта. Перед использованием в задачах, чувствительных к качеству, следует самостоятельно сравнить его с базовой BF16-моделью. Модель распространяется по лицензии Apache-2.0.

Это PyTorch-версия модели Grok-1 с открытыми весами, опубликованная hpcai-tech. Репозиторий содержит преобразованные из JAX веса и реализацию, совместимую с Transformers; для токенизатора используется вклад Xenova и ArthurZ. Архитектура — языковая модель с причинным декодированием и механизмом Mixture of Experts (MoE), общий размер составляет 45,1 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста и запуска вывода на PyTorch. В репозитории применяются методы параллелизма ColossalAI, включая tensor parallelism, для ускорения инференса. Для примера запуска требуется многопроцессорная система с несколькими GPU; в README указан пример конфигурации с восемью GPU по 80 ГБ памяти. Это конверсия исходной модели xAI из JAX в PyTorch с преобразованием весов, а не отдельное дообучение. Репозиторий распространяется по лицензии Apache-2.0. Данные не описывают поддержку конкретных естественных языков или специализированных областей применения.

Guanaco 13B Uncensored — это диалоговая языковая модель на базе архитектуры Llama с 13 млрд параметров. Исходную модель разработал Fredithefish, а TheBloke подготовил её квантованные версии в формате GGUF. Модель обучалась на датасете Fredithefish/openassistant-guanaco-unfiltered и предназначена для генерации текста и ведения диалогов на английском языке. Модель подходит для локального conversational inference, включая запуск через llama.cpp, text-generation-webui, KoboldCpp, LM Studio и совместимые библиотеки. Доступны варианты с квантованием 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы на CPU и GPU. Для запросов используется шаблон «### Human: {prompt} ### Assistant:». Формат GGUF поддерживает метаданные и специальные токены. Ключевое свойство модели — статус uncensored, поэтому её ответы могут иметь меньше ограничений по тематике и содержать нежелательный или небезопасный контент. Размер контекста и другие подробные характеристики в README не указаны. Лицензия заявлена как Apache 2.0, однако поскольку модель основана на Llama 2, также применяются условия лицензии Meta Llama 2; фактические условия следует уточнять в исходном репозитории.

Hypa-Llama-SNAC-ASR-run1-colab-16bit — дообученная hypaai модель генерации текста на архитектуре Llama, созданная на базе hypaai/Hypa-Llama3.1-8b-SFT. В репозитории указаны 7,6 млрд параметров, контекст 2048 токенов и формат safetensors; обучение проводилось с Unsloth и библиотекой TRL. Модель предназначена для диалоговой генерации текста и работы с интерфейсом вызова инструментов. Название содержит SNAC и ASR, однако карточка не описывает распознавание речи или аудиовход, поэтому подтвердить такие сценарии по предоставленным данным нельзя. Указана лицензия Apache-2.0.

TechxGenus/Jamba-v0.1-9B — плотная версия базовой языковой модели Jamba от AI21, подготовленная TechxGenus из Jamba-v0.1: веса первого эксперта извлечены из исходной смеси экспертов, поэтому версия больше не использует MoE. Архитектура Jamba сочетает Mamba и Transformer; в метаданных указано 7,2 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста и как основа для дообучения и создания специализированных решений. Она подходит для запуска инференса на одной видеокарте RTX 3090 или RTX 4090; в README заявлена поддержка контекста до 256 тыс. токенов для исходной Jamba. Модель не настроена для диалогов и инструкций, поэтому для таких сценариев её следует дообучить. В карточке исходной Jamba приведены результаты на распространённых тестах языкового понимания и рассуждений. Для запуска требуются Transformers версии 4.39.0 или выше и CUDA; для оптимальной скорости нужны kernels Mamba. Лицензия — Apache 2.0. Модель не имеет встроенных механизмов модерации и защитных ограничений.

NANI-Nithin/K2-Horizon-7B-GGUF — набор GGUF-квантизаций базовой модели IFM/K2-Horizon-7B, разработанной MBZUAI IFM и квантизированной пользователем NANI-Nithin. Модель представляет собой плотный causal decoder примерно на 7 млрд параметров без MoE, реализованный с архитектурой K2HorizonForCausalLM и предназначенный для генерации текста и запуска локальных языковых моделей через llama.cpp. Доступны варианты от BF16 и Q8_0 до агрессивных 1–3-битных квантизаций, включая K-quant и IQ-варианты с importance matrix. Для общего использования рекомендован K2-Horizon-7B-Q4_K_M.gguf, а Q8_0 позиционируется как вариант, близкий к исходному качеству. Указан английский язык; модальность — текстовая. Размер BF16 GGUF составляет около 18,01 ГБ. Контекстное окно и дополнительные характеристики исходной модели в README не указаны. Главное преимущество набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти, а также возможность локального запуска. Для работы требуется форк MBZUAI-IFM llama.cpp с веткой model/K2Horizon либо версия upstream llama.cpp после добавления поддержки этой архитектуры; стандартный llama.cpp по состоянию на сентябрь 2026 года её не поддерживает. Веса распространяются на тех же условиях, что и оригинальная IFM/K2-Horizon-7B; для точных условий лицензии необходимо обратиться к репозиторию исходной модели.

QuantFactory/Llama-3.1-8B-Instruct-abliterated_via_adapter-GGUF — квантизированная версия модели Llama-3.1-8B-Instruct-abliterated_via_adapter, созданная QuantFactory с использованием llama.cpp. Исходная модель объединяет Meta-Llama-3.1-8B-Instruct от Meta и LoRA-адаптер Llama-3-Instruct-abliteration-LoRA-8B; объединение выполнено методом task arithmetic с помощью mergekit. Модель предназначена для генерации текста и диалоговых сценариев, совместимых с instruct-моделями Llama. LoRA применялась для ослабления отказов в ответах, поэтому модель ориентирована на более свободное выполнение запросов, однако это может снижать встроенные механизмы безопасности и требовать дополнительного контроля со стороны пользователя. Указан размер базовой модели 8B параметров и тип данных bfloat16 на этапе объединения; формат GGUF предназначен для использования в llama.cpp и совместимых инструментах. В README не указаны точный размер квантизации, поддерживаемые языки, длина контекста, конкретные модальности и результаты бенчмарков. Модель распространяется по лицензии llama3.1.

Apollo Raines представил Llama-3.1-8B-Instruct-Hardened-Analyst — вариант Meta Llama 3.1 8B Instruct, изменённый инструментом jBlaze методом representation engineering. По карточке, дополнительного обучения не проводилось: поведенческие характеристики менялись непосредственно в весах. Усилены устойчивость к состязательным запросам, следование контексту и аналитические рассуждения. Модель предназначена для диалоговой генерации текста и аналитических ответов в средах, где возможны попытки prompt injection. В карточке приведены примеры ответов на общие вопросы, арифметические задачи, запрос на код и небезопасную инструкцию. Архитектура — плотная LlamaForCausalLM; метаданные указывают 7,5 млрд параметров, контекст 131 072 токена, формат safetensors и английский язык. Карточка описывает опубликованную версию как демонстрационную, с частично сниженной силой возможностей. Лицензия — Llama 3.1; применяются её условия использования.

Llama-3.1-8B-Lexi-Uncensored-V2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Llama-3.1-8B-Lexi-Uncensored-V2, опубликованной Orenguteng. Квантизации подготовлены bartowski с использованием llama.cpp версии b3509 и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, включая LM Studio и другие совместимые приложения на базе llama.cpp. Архитектура основана на Llama 3.1 с размером 8 миллиардов параметров. README не содержит сведений о поддерживаемых языках, максимальном размере контекста и мультимодальных возможностях, поэтому модель следует рассматривать как текстовую. Доступны варианты от F32 размером 32,13 ГБ до более компактных IQ и Q-квантизаций; рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q5_K_L, Q6_K и Q6_K_L. Более крупные варианты обеспечивают более высокое качество, а низкоразрядные подходят для систем с ограниченной оперативной памятью, но могут заметно уступать по качеству. Для работы рекомендуется использовать указанный chat-шаблон с системным, пользовательским и ассистентским сообщениями. Лицензия обозначена как llama3.1; дополнительные условия в README не приведены. Ограничения включают зависимость качества от выбранного уровня квантизации и отсутствие подробных данных о языках, контексте, бенчмарках и безопасности использования.

llama3.1-airoboros3.2-QDT-8B-GGUF — это квантизированная версия текстовой генеративной модели llama3.1-airoboros3.2-QDT-8B, разработанной nbeerbower и дополнительно подготовленной bartowski в формате GGUF для llama.cpp. Модель обучена с использованием датасета jondurbin/airoboros-3.2 и предназначена для генерации текста, диалоговых сценариев и локального запуска через совместимые приложения, включая LM Studio. Модель относится к семейству Llama 3.1 и содержит около 8 миллиардов параметров. Она поддерживает текстовую модальность; сведения о языках и размере контекстного окна в README не указаны. Доступны варианты от F16 до различных квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Для ARM-процессоров предусмотрены специальные варианты, оптимизированные под поддержку sve или i8mm. Сильная сторона модели — широкий выбор квантизаций, включая варианты с высоким качеством и версии для устройств с ограниченными ресурсами. Более компактные варианты снижают требования к памяти, но могут уступать по качеству генерации. README не содержит подробной информации о результатах оценки, ограничениях, системных требованиях или специфических возможностях базовой модели. Лицензия указана как llama3; условия её применения следует уточнять в документации лицензии Llama 3.

Lemura Labs-Llama-3.2-3B-Uncensored-GGUF — текстовая генеративная модель, разработанная Lemura Labs на основе Meta Llama 3.2 3B. Модель предназначена для генерации текста, ответов на открытые вопросы, творческого письма, разработки идей, исследовательской и образовательной помощи, математических задач, непринуждённых диалогов и взаимодействия с длинным контекстом. Заявлена как модель без встроенных ограничений на содержание ответов. Модель содержит около 3 млрд параметров и распространяется в формате GGUF. Доступны варианты с разным уровнем квантования — от низкоразрядных конфигураций для минимального потребления памяти до F16 для максимальной точности, что позволяет запускать её на устройствах с различными ресурсами. Поддерживаются текстовые сценарии; сведения о мультимодальности, языках и точном размере контекстного окна в README не указаны. Заявлены контекстное понимание, работа с длинными диалогами и возможность адаптации под специализированные задачи посредством дообучения. Сильными сторонами модели являются компактный размер, широкий спектр заявленных сценариев и наличие множества квантованных версий для локального развёртывания. Ограничения включают отсутствие в README количественных оценок качества, сведений о датасете и методике обучения, а также точных данных о поддерживаемых языках и контекстном окне. Отсутствие ограничений на содержание может повысить риск небезопасных, некорректных или непроверенных ответов, поэтому результаты требуют контроля. Модель распространяется по лицензии Apache-2.0.

llm-jp-13b-v2.0 — предварительно обученная языковая модель, разработанная совместным японским проектом LLM-jp. Это плотный Transformer семейства LLaMA с 13,2 млрд параметров, 40 слоями и контекстом до 4096 токенов; веса опубликованы в формате PyTorch для Transformers. Модель обучалась на смеси японских, английских и программных данных, всего было обработано 256 млрд токенов. Токенизатор Unigram byte-fallback содержит около 97 тысяч токенов. Модель предназначена для генерации продолжений текста и служит базой для дальнейшей адаптации под инструкции и другие языковые задачи. В первую очередь она ориентирована на японский и английский языки. Авторы отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного следования человеческим намерениям и требованиям безопасности, поэтому ответы могут быть неточными или неподходящими. Лицензия — Apache-2.0.

M7Yamshadowexperiment28_YamExperiment28 — слитая модель семейства Mistral для генерации текста, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/YamExperiment28-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста по текстовому запросу. Данные не уточняют её специализацию или целевые языки. Веса опубликованы в формате Safetensors по лицензии Apache 2.0.

Magnum-v2-4b-GGUF — это набор GGUF-квантизированных версий текстовой генеративной модели magnum-v2-4b, разработанной anthracite-org и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогового применения и генерации текста; в README указан английский язык и формат prompt с ролями system, user и assistant. Доступны версии с исходными весами F16 и различными уровнями квантования от Q8_0 до Q2_K, включая варианты Q4, Q5 и Q6, оптимизированные для разных компромиссов между качеством, размером и требованиями к памяти. Размер файлов составляет примерно от 1,72 до 9,03 ГБ. Некоторые варианты дополнительно оптимизированы для инференса на CPU и ARM, а отдельные версии используют повышенную точность для embedding- и output-весов. Запуск поддерживается через llama.cpp и LM Studio. К сильным сторонам относятся широкий выбор форматов, возможность локального запуска и сохранение высокого качества у вариантов Q5 и Q6. Более сильное квантование уменьшает требования к памяти, но может снижать качество генерации; варианты Q2 и Q3 имеют низкое качество и подходят главным образом при жёстких ограничениях по ресурсам. В README не указаны архитектура, размер контекста, точные мультимодальные возможности и результаты тестирования. Модель распространяется по лицензии Apache-2.0.

Meta-Llama-3-8B-InitializedEmbeds — плотная авторегрессионная языковая модель семейства Llama 3, созданная chargoddard линейным слиянием предобученной Meta-Llama-3-8B и её инструктивной версии. В модели заменены эмбеддинги специальных токенов на эмбеддинги из instruct-чекпойнта; автор отмечает, что это должно уменьшать бессвязный вывод при встрече с такими токенами. Модель содержит 7,5 млрд параметров и имеет контекст до 8192 токенов. Она предназначена прежде всего как базовый чекпойнт для последующего дообучения; также поддерживает генерацию текста и диалоговые сценарии, сохраняя поведение, близкое к исходной базовой модели. Карточка не заявляет отдельной специализации по языкам или предметным областям. Использование рассчитано на Transformers и файлы Safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Mew1-2.6B — текстовая генеративная модель семейства LFM2, выпущенная разработчиком Unmid. Она предназначена для локального диалогового взаимодействия, творческого письма, ролевых сценариев, выполнения инструкций и экспериментов на оборудовании с ограниченными ресурсами. Модель ориентирована прежде всего на английский язык и поддерживает формат чата, близкий к ChatML, включая использование инструментов. Архитектура модели — гибридная LFM2 с классом Lfm2ForCausalLM; она содержит около 2,69 млрд параметров, 30 слоёв и словарь из 128 000 токенов. Данный checkpoint настроен на контекст до 128 000 токенов и распространяется в формате BF16 Safetensors, разделённом на четыре файла. Для локального запуска также доступны варианты GGUF с различными уровнями квантования; независимые GGUF-сборки и репозиторий с ними публикуются отдельно. К сильным сторонам относятся небольшой по современным меркам размер, большой контекст, поддержка Transformers без пользовательского кода и возможность запуска на ограниченных ресурсах. При этом опубликованные материалы не содержат полного отчёта о воспроизводимости и независимого набора бенчмарков для модификации Mew1, поэтому качество следует проверять на собственных задачах. Модель может генерировать ошибочные, предвзятые, небезопасные или вымышленные ответы; сниженное количество отказов не означает надёжность или пригодность для ответственных решений. Модель распространяется по лицензии LFM Open License v1.0 с указанными в ней условиями атрибуции и коммерческого использования.

m8than выпустил Mistral-Nemo-Instruct-2407-lenient-chatfix — чат-модель для генерации текста на основе Mistral Nemo Instruct 2407. По описанию автора, в этой версии используется менее строгий формат чата. Модель имеет плотную архитектуру Mistral и около 12,1 млрд параметров; метаданные указывают контекст до 131 072 токенов и английский язык. Она предназначена для диалогов и ответов на запросы в приложениях, использующих генерацию текста. Доступна в формате Safetensors по лицензии Apache-2.0. Подробные сравнительные оценки качества и конкретные ограничения в карточке не приведены.

multi_verse_model-10.7B — языковая модель Joseph717171, созданная методом depth-up scaling на основе MTSAIR/multi_verse_model. Веса объединены методом passthrough с помощью mergekit: в модель включены слои 0–24 и 8–32 исходной модели. Архитектура — плотная MistralForCausalLM, размер — 10,6 млрд параметров; модель принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 32 768 токенов. Модель предназначена для дальнейшего дообучения или использования как замена исходной 7-миллиардной модели. Она может служить основой для экспериментов с depth-up scaling и генерацией текста. Лицензия — Apache-2.0. README описывает её как демонстрацию подхода; конкретные языки и ограничения качества не приведены.

Это пакет слоёв GGUF для распределённого запуска NVIDIA-Nemotron-3.5-Lightning-30B-A3B в Mesh LLM. Он создан на основе unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF и разбивает исходную модель на артефакты по слоям, чтобы распределять вычисления между несколькими компьютерами. Указанный вариант весов — UD-Q4_K_XL; пакет предназначен для локального приватного инференса и чата через совместимый с OpenAI API Mesh LLM. Модель принимает текст и генерирует текстовые ответы в режиме чата. Репозиторий указывает формат GGUF и библиотеку mesh-llm, но не приводит сведения о числе параметров, контексте и поддерживаемых языках. Лицензия обозначена как other; README направляет за условиями лицензии к карточке исходной модели, поэтому конкретные условия для этого пакета не уточнены.

DevQuasar опубликовал GGUF-версию базовой языковой модели NVIDIA Nemotron 3 Nano 30B A3B. Репозиторий содержит вариант BF16 модели на 30 млрд параметров, предназначенный для генерации текста и последующего дообучения под инструкции и специализированные агентские задачи. Метаданные связывают эту модель с nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16 и указывают задачу text-generation. Карточка описывает её как квантованную версию базовой модели, однако формат указан как GGUF BF16. По имеющимся сведениям нельзя определить точную конфигурацию квантования или подтвердить дополнительные возможности. Условия лицензии в предоставленных данных не указаны.

Это опубликованный Positron AI контрольный чекпойнт модели openai/gpt-oss-20b: веса исходного выпуска в MXFP4 преобразованы в bf16 без дополнительной квантизации. Архитектура — GPT-OSS с разреженной экспертной моделью (MoE); в метаданных указано 1,6 млрд параметров и контекст до 131 072 токенов. Репозиторий содержит веса в safetensors и поддерживает диалоговое применение через text-generation. Чекпойнт предназначен прежде всего для использования как bf16-эталон или базовая точка сравнения с квантизованными сборками openai/gpt-oss-20b. Он подходит для генерации текста и диалогов, а также для оценки различий между точностью bf16 и квантизованными вариантами. Языки, на которые модель рассчитана, в предоставленных данных не перечислены. Применяются лицензия Apache-2.0 и ограничения использования исходной модели.

recursal/QRWKV6-7B-Base — базовая языковая модель, опубликованная в репозитории Recursal. Она относится к семейству RWKV6Qwen2 и использует плотную архитектуру RWKV6Qwen2ForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста; в метаданных также заявлены возможности чата и интерфейс вызова инструментов. Карточка описывает RADLADS — метод переноса трансформеров с softmax-вниманием на варианты линейного внимания с постоянными затратами на инференс каждого токена. В ней представлены RAD-RWKV6 и RAD-RWKV7 и упомянута совместимость компонентов с Qwen2.5, однако прямое указание на обучение именно этого чекпойнта по методу RADLADS отсутствует. Для этой модели указаны библиотека Transformers, формат safetensors и контекст до 131 072 токенов. Лицензия — Apache-2.0. Модель можно применять для продолжения текста и диалоговой генерации. Карточка отмечает ограниченную поддержку инференса; также не приводит оценки качества, перечень поддерживаемых естественных языков или подробности обучения конкретного чекпойнта.

Qwen1.5-110B — базовая плотная языковая модель из серии Qwen1.5, разработанной командой Qwen. Это бета-версия семейства Qwen2: авторегрессионная модель-декодер на архитектуре Transformer с 110 млрд параметров, предназначенная для дальнейшего дообучения и экспериментов с генерацией текста. В карточке модели указаны поддержка контекста до 32 768 токенов и формат весов Safetensors. Модель подходит для генерации и продолжения текста, а также как основа для постобучения под диалоговые сценарии с помощью SFT, RLHF или дополнительного предобучения. Семейство поддерживает несколько языков; метаданные этой карточки отмечают английский. В архитектуре семейства используются активация SwiGLU и смещение в проекциях QKV; для версии 110B также заявлен grouped-query attention. Для запуска рекомендуется Transformers версии 4.37.0 или новее, и не требуется включать trust_remote_code. Авторы не рекомендуют использовать базовую модель напрямую для генерации текста и советуют сначала провести постобучение. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.