II.2Создание и понимание программного кода
В разделе собраны самостоятельные задачи, где AI помогает писать, объяснять и связывать программный код с требованиями и существующей системой. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
21 443 моделиYamshadowexperiment28T3qm7xp-7B — автоматическое слияние языковых моделей, созданное Maxime Labonne. Модель основана на архитектуре Mistral и содержит 7,1 млрд параметров; веса сохранены в формате SafeTensors. Для слияния использован метод model_stock, а базовой моделью в конфигурации указана mistralai/Mistral-7B-v0.1. Модель предназначена для генерации текста и диалогов. Контекст составляет до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или специальных ограничений по применению.
YamshadowInex12_T3qM7 — объединённая языковая модель, созданная MaziyarPanahi на основе automerger/YamshadowInex12-7B и automerger/T3qM7-7B. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; веса опубликованы в формате safetensors. Модель предназначена для генерации текста и диалогов. Она принимает текст и поддерживает контекст до 32 768 токенов. README не уточняет языковую специализацию или отдельные предметные области модели. Модель опубликована под лицензией Apache 2.0. README не приводит результатов оценки качества или конкретных ограничений, поэтому её пригодность для задач с высокими требованиями к точности следует оценивать отдельно.
adamo1139/Yi-1.5-34B-32K-rebased-1406 — языковая модель на архитектуре Llama с 33,9 млрд параметров и контекстом до 32 768 токенов. Автор дообучил Yi-1.5-34B-32K методом SFT на наборе uninstruct-v1-experimental-chatml, затем провёл обучение ORPO на rawrr_v2-2_stage1. Модель предназначена для генерации текста и диалоговых ответов. Автор описывает её как эксперимент по устранению загрязнения синтетическими данными в SFT исходной Yi-1.5-34B-32K. В README также упоминается план дальнейшей работы с датасетом AEZAKMI v4, поэтому текущий чекпойнт следует считать экспериментальным. Модель распространяется в формате safetensors по лицензии Apache-2.0.
Zenith-7B — разговорная инструкцияя модель, разработанная Xenon1 и дообученная на базе Mistral-7B-v0.1 на наборе Ultrafeedback с применением методов из статьи Self-Rewarding Language Models. Она предназначена для генерации ответов и ведения диалога по инструкциям; для запросов используется формат Mistral с маркерами [INST] и [/INST], доступен шаблон чата Transformers. Модель имеет плотную архитектуру MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Карточка указывает английский язык. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0. Карточка не приводит оценки качества или результаты бенчмарков.
yuq-zhou/2026-05-o-b0p3-a1p0-gc0p5-exp-td2p0-tw5p0-qwen3annot-q2-m-7 — контрольный чекпойнт на базе архитектуры Qwen2, опубликованный в стандартном формате Hugging Face Transformers. В репозитории указано 7,1 млрд параметров и контекст до 16 384 токенов; модель предназначена для генерации текста и поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Карточка называет модель резервной копией исследовательского артефакта, но не описывает конкретную специализацию или качество. Указана лицензия не была, поэтому условия использования по имеющимся данным определить нельзя.
BAAI/AquilaChat2-7B — диалоговая языковая модель из серии Aquila2, выпущенной BAAI. Это плотная авторегрессионная модель с архитектурой AquilaForCausalLM и 6,9 млрд параметров; она предназначена для генерации текста в формате чата. В README также упомянуты базовые Aquila2 и варианты чата с контекстом 16k, но этот репозиторий относится к AquilaChat2-7B с окном контекста 2048 токенов. Модель подходит для диалоговых помощников, генерации и продолжения текста, а также ответов на запросы на естественном языке. В репозитории указаны веса PyTorch. README доступен на английском и китайском, однако это само по себе не подтверждает языки, на которых обучена модель. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией репозитория.
ArliAI_Mistral-Small-24B-ArliAI-RPMax-v1.4-GGUF — это набор GGUF-квантизованных версий текстовой генеративной модели Mistral-Small-24B-ArliAI-RPMax-v1.4, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp b4792 и метода imatrix. Модель предназначена для генерации текста, а также для локального запуска через LM Studio, llama.cpp и другие совместимые проекты. Модель имеет размер 24B параметров в исходной версии, но README не содержит точных сведений об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна. Доступны варианты квантизации от Q8_0 до низкобитных Q3 и IQ3/IQ4, с размером файлов примерно от 10,65 до 25,05 ГБ. Варианты Q6_K_L, Q6_K, Q5 и Q4_K рекомендуются как обеспечивающие высокое или хорошее качество при меньших требованиях к памяти; более лёгкие варианты подходят для систем с ограниченным объёмом RAM, но могут заметнее снижать качество. Модель распространяется по лицензии Apache-2.0. Для работы используется указанный шаблон промпта с системным сообщением и пользовательской инструкцией. Основное ограничение — необходимость подбора квантизации с учётом доступной памяти и допустимой потери качества; сведения о результатах тестирования, специализированных возможностях и языковой поддержке в README отсутствуют.
bartowski/ArliAI_Qwen3.5-27B-RpRMax-v1-GGUF — это набор GGUF-квантизаций модели ArliAI/Qwen3.5-27B-RpRMax-v1, подготовленный пользователем bartowski с помощью llama.cpp и метода imatrix. Модель имеет размер 27B параметров и распространяется в вариантах от BF16 до низкобитных Q3–Q8 и IQ-квантизаций, что позволяет выбирать баланс между качеством, объёмом памяти и скоростью инференса. Модель предназначена для локального запуска в совместимых инструментах, включая llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие приложения экосистемы GGUF. В метаданных указано назначение image-text-to-text, однако README не содержит подробностей о поддерживаемых модальностях, языках, архитектуре исходной модели или размере контекста. Для работы рекомендуется использовать указанный формат prompt с системным и пользовательским сообщениями. Сильной стороной набора является широкий выбор квантизаций: варианты Q5–Q6 заявлены как высококачественные, Q4 — как оптимальные по размеру для большинства сценариев, а Q3 и IQ3 — как варианты для систем с ограниченным объёмом оперативной памяти. Более компактные варианты могут снижать качество по сравнению с BF16 и старшие форматы могут требовать значительных ресурсов, например BF16 занимает около 53,81 ГБ. Лицензия в README не указана.
Deacon 34B — большая языковая модель для генерации текста, разработанная Knut Jägersberg и распространяемая в формате GGUF командой TheBloke. Она основана на архитектуре Yi, имеет около 34 млрд параметров и использует обучающие данные EverythingLM-data-V3. Модель предназначена для текстовой генерации и диалоговых сценариев; в README приведён шаблон запросов SciPhi с отдельными секциями для системного сообщения, инструкции и ответа. Это текстовая, немультимодальная модель: поддерживаемые языки и размер контекстного окна в README не указаны. Представленная версия квантована в формат GGUFv2 с вариантами от 2 до 8 бит, что позволяет запускать её через llama.cpp и совместимые приложения, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие инструменты, на CPU и GPU. Разные уровни квантования дают компромисс между требованиями к памяти и сохранением качества, однако конкретные показатели производительности и качества не приведены. Лицензия обозначена как yi-license с типом other; подробные условия следует уточнять в файле LICENSE оригинального проекта. README не содержит заявленных сильных сторон, результатов тестирования или ограничений, помимо общих особенностей квантованного формата и необходимости использовать совместимое программное обеспечение.
Dream-org_Dream-v0-Instruct-7B-GGUF — это набор квантизированных GGUF-версий модели Dream-v0-Instruct-7B, разработанной Dream-org и подготовленной пользователем bartowski. Модель предназначена для генерации текста и выполнения инструкций, а запускать её можно через llama.cpp, LM Studio и другие проекты на базе llama.cpp. В набор входят варианты с исходной точностью bf16 и несколькими уровнями квантизации: от Q8_0 до Q2_K_L, включая семейства Q4, Q5, Q6, Q3 и IQ. Размер файлов составляет примерно от 3,55 до 15,24 ГБ, что позволяет выбирать баланс между качеством ответа и требованиями к оперативной памяти. Квантизация выполнена с использованием imatrix на базе llama.cpp, релиз b5915. Поддерживается формат диалога с ролями system, user и assistant через специальные токены im_start и im_end. Сильной стороной набора является широкий выбор вариантов для локального запуска: версии Q6 и Q5 ориентированы на высокое качество, Q4 подходят для большинства сценариев, а Q3 и Q2 рассчитаны на системы с ограниченным объёмом памяти. Более сильное сжатие снижает требования к ресурсам, но может ухудшать качество генерации. В README не указаны архитектурные детали базовой модели, поддерживаемые языки, размер контекстного окна и лицензия, поэтому эти характеристики нельзя достоверно определить по представленным данным.
Это пакет Mesh LLM с GGUF-весами ERNIE-4.5-21B-A3B-PT, разбитыми на артефакты по слоям для распределённого запуска на локальном кластере. Пакет подготовлен Mesh LLM на основе unsloth/ERNIE-4.5-21B-A3B-PT-GGUF и использует вариант квантования UD-Q4_K_XL. Модель предназначена для локального приватного текстового общения, генерации ответов в чатах и обслуживания запросов через локальный API, совместимый с OpenAI. Разделение слоёв позволяет распределить вычисления и память между несколькими машинами, когда запуск полного GGUF-файла на одном узле неудобен. Для работы требуется Mesh LLM; это упаковка модели для распределённого инференса, а не самостоятельная новая архитектура. README ссылается на исходную карточку модели за сведениями об архитектуре, языках, контекстном окне и лицензии, поэтому эти характеристики здесь не приводятся. Условия лицензии следует проверять в карточке исходной модели.
Experiment26Neuralsirkrishna_Strangemerges_32Experiment28 — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Strangemerges_32Experiment28-7B. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст, что подходит для диалоговых интерфейсов и задач создания продолжений или ответов. Она распространяется в формате safetensors по лицензии Apache-2.0. Информация о специальных доменах, языках и измеренном качестве в доступных материалах отсутствует.
Experiment28M7_Experiment27Shadow — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная из automerger/Experiment28M7-7B и automerger/Experiment27Shadow-7B. Она предназначена для генерации текста и принимает текстовые запросы, продолжая их в виде текста. Модель поддерживает контекст длиной до 32 768 токенов. Опубликована в формате safetensors и распространяется по лицензии Apache 2.0. Данных о специализации на конкретных языках или прикладных областях в карточке нет.
MaziyarPanahi/Experiment28T3q_ShadowOgno — объединённая модель для генерации текста, созданная на основе двух моделей: automerger/Experiment28T3q-7B и automerger/ShadowOgno-7B. Она использует плотную архитектуру Mistral с причинно-следственной языковой моделью и содержит 7,1 млрд параметров. Модель предназначена для генерации продолжений текста и диалоговых ответов. Она принимает текст и поддерживает контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.
benjamin/Gemma2-2B-IT-with-Qwen2-Tokenizer — диалоговая модель генерации текста на архитектуре Gemma 2, созданная переносом instruction-tuned Gemma 2 2B-IT на токенизатор Qwen2. Модель содержит около 2,4 млрд параметров и рассчитана на контекст до 8192 токенов; для работы используется библиотека Transformers, веса доступны в формате safetensors. Модель предназначена для диалога, ответов на вопросы и генерации текста по инструкциям. По данным карточки, на большинстве приведённых тестов она примерно сохраняет качество исходной Gemma 2 2B-IT, но показывает небольшое снижение результатов. Пример использования рассчитан на запуск через Transformers с PyTorch и поддерживает генерацию ответа в формате сообщений. Это производная модель от google/gemma-2-2b-it с изменённым токенизатором. В карточке не приведены сведения о лицензии и дополнительных ограничениях использования, поэтому условия лицензирования следует проверять у базовой модели и в репозитории модели.
mizydorczyk/gemma-4-e4b-it-ask — текстовая диалоговая модель на архитектуре Gemma4ForCausalLM, созданная автором репозитория объединением LoRA-адаптера mizydorczyk/gemma-4-e4b-it-ask-lora с текстовой частью google/gemma-4-E4B-it. Модель предназначена для генерации ответов в диалоге и работает с шаблоном чата Gemma 4. Веса представлены в формате safetensors; размер модели — 4,7 млрд параметров, контекст — до 131 072 токенов. Это текстовая настройка мультимодальной базовой модели: сама опубликованная модель принимает и генерирует текст, а функции обработки изображений и аудио из описания базовой модели здесь не заявлены. README указывает источники весов и шаблоны для вывода и обучения. Лицензия в предоставленных данных не приведена.
GenZ-70B — авторегрессионная языковая модель Bud Ecosystem, дообученная методом supervised fine-tuning на Meta Llama 2 70B. Модель построена на архитектуре Llama и содержит 68,7 млрд параметров; карточка Hugging Face указывает библиотеку Transformers, формат PyTorch и контекст 4096 токенов. Модель предназначена для генерации текста и диалогового взаимодействия по пользовательским запросам. Её можно применять для получения ответов, подготовки текстовых материалов и экспериментов с LLM. В README приведены результаты MT Bench, MMLU, Human Eval и BBH, но детали обучающих данных и оценивания описаны ограниченно. README указывает коммерческое использование по специальной лицензии, связанной с условиями Meta AI Model and Library Downloads. Перед применением следует проверить эту лицензию и ограничения базовой модели. Заявленное разработчиком назначение включает исследования больших языковых моделей.
GLM-4.5-Air-4bit — это 4-битная версия модели GLM-4.5-Air, преобразованная сообществом mlx-community в формат MLX из исходной модели zai-org/GLM-4.5-Air с использованием mlx-lm 0.26.0. Модель предназначена для генерации текста и может применяться в сценариях диалогового взаимодействия и других задачах текстовой генерации через библиотеку mlx-lm. В карточке указаны поддерживаемые языки English и Chinese, текстовая модальность и совместимость с MLX. Ключевая особенность — 4-битное представление, ориентированное на запуск в экосистеме MLX; точный размер модели, архитектура, максимальная длина контекста и количественные показатели не приведены. Лицензия — MIT. README не содержит подробностей о сильных сторонах, ограничениях качества или требованиях к аппаратному обеспечению, поэтому эти характеристики нельзя определить по имеющимся данным.
Melvin56/GLM-4-9B-0414-abliterated-GGUF — это GGUF-квантизованная версия модели huihui-ai/GLM-4-9B-0414-abliterated, подготовленная пользователем Melvin56. Модель предназначена для генерации текста и локального запуска через совместимые реализации llama.cpp. В README указано, что квантизация выполнена с использованием imatrix и специального набора данных, а сами файлы пересобраны на базе llama.cpp build 558a7647 (5190). Модель относится к семейству GLM и имеет размер 9B параметров в исходной версии; доступны варианты K-quants и I-quants. Поддерживаются CPU с AVX2 и ARM NEON, Metal, cuBLAS, rocBLAS и SYCL, а для отдельных вариантов также Vulkan и CLBlast; некоторые конфигурации работают медленнее или поддерживаются частично. Заявлены китайский и английский языки, текстовая модальность и контекст генерации текста, однако точный размер контекстного окна в README не указан. К сильным сторонам относятся возможность локального запуска на широком спектре CPU и GPU, выбор разных уровней квантизации и совместимость с llama.cpp. Ограничения включают зависимость производительности и доступности отдельных вариантов от backend и аппаратной платформы, а также отсутствие подробных данных о качестве, бенчмарках и точном контекстном окне. Модель распространяется по лицензии MIT.
Это пакет слоёв модели GLM-5.1-UD-Q3_K_S, подготовленный Mesh LLM для распределённого запуска на локальном кластере. Он создан из meshllm/GLM-5.1-UD-Q3_K_S-GGUF и содержит GGUF-артефакты, разделённые по слоям для распределения между несколькими машинами. Пакет предназначен для локального и приватного инференса, когда модель нужно запускать на нескольких узлах из-за нехватки ресурсов одного компьютера, а также для обслуживания запросов к совместимому с OpenAI локальному API чата и генерации текста. Для работы требуется Mesh LLM. Репозиторий не описывает отдельно архитектуру, число параметров, контекст, языки или лицензию; за этими сведениями README отсылает к карточке исходной GGUF-модели.
Hy3-Razor-226B-A21B-E144of192 — производная диалоговая модель Tencent Hy3, сжатая методом RAZOR. В каждом MoE-слое оставлены 144 из 192 маршрутизируемых экспертов; остальные удалены без градиентного дообучения и восстановления. В метаданных указано 16,6 млрд параметров, тогда как README приводит 226 млрд для этого чекпойнта и 295 млрд для базовой модели. На токен активно около 21 млрд параметров. Модель предназначена для генерации текста в диалогах и других сценариях, поддерживаемых базовой Hy3. Пул экспертов сокращён для снижения вычислений на токен; внимание, общие эксперты, эмбеддинги и языковая голова сохранены. Контекст — 262 144 токена. Для запуска требуется версия Transformers с реализацией архитектуры hy_v3; веса представлены в bfloat16. Удаление экспертов является потерей информации: хотя точность задач может в значительной степени сохраняться, меняются разнообразие ответов, форматирование и поведение при завершении генерации. Поведение на областях, далёких от конечного калибровочного набора, не охарактеризовано. Лицензия — Apache-2.0.
IceTea21EnergyDrinkRPV13-DPOv3 — разговорная языковая модель на архитектуре Mistral, созданная автором репозитория слиянием предварительно обученных моделей методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; длина контекста — до 32 768 токенов. Модель принимает текстовые запросы и генерирует текстовые ответы. В карточке указано слияние двух вариантов IceTea21EnergyDrinkRPV13, однако их локальные пути не дают надёжного идентификатора базовой модели на Hugging Face. Сведения о специализированных областях и поддерживаемых естественных языках не приведены. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.
Ingot-7b-slerp-2 — слитая модель для генерации текста, созданная liminerity с помощью LazyMergekit из liminerity/Ingot-7b-slerp и flemmingmiguel/MBX-7B методом SLERP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; веса опубликованы в формате Safetensors. Модель подходит для генерации продолжений и ответов на текстовые запросы. README описывает способ слияния, но не приводит сведения о специализации, поддерживаемых языках или лицензии.
Josiefied-Qwen3-4B-Instruct-2507-abliterated-v1 — диалоговая языковая модель Goekdeniz-Guelmez, дообученная на базе Qwen/Qwen3-4B-Instruct-2507. Это плотная архитектура Qwen3 с 3,7 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций; модель сохраняет интерфейс вызова инструментов. Контекст составляет до 262 144 токенов. Модель дообучена для более свободной генерации с ослабленными ограничениями безопасности. В карточке также перечислены сторонние варианты в формате GGUF, но метаданные этого репозитория указывают safetensors. Модель рассчитана на продвинутых пользователей, которым нужны диалоговые ответы и генерация текста с меньшей фильтрацией. Языки и лицензия в предоставленных данных не определены.
Kimi-K3-UD-Q4_K_XL-layers — пакет GGUF-файлов модели Kimi-K3-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого локального инференса. Пакет создан на основе unsloth/Kimi-K3-GGUF: веса разделены на отдельные артефакты по слоям, чтобы распределять вычисления и память между несколькими машинами. В метаданных указаны поддержка чата и изображений; основной сценарий — диалоговый инференс с изображениями и текстом через Mesh LLM. Пакет предназначен для частного запуска на собственном оборудовании, в том числе на кластере, когда модель не помещается на одном узле. Mesh LLM предоставляет локальный API, совместимый с OpenAI Chat Completions. Вариант весов — UD-Q4_K_XL в формате GGUF. Лицензия обозначена как other; условия следует сверить с карточкой исходной модели unsloth/Kimi-K3-GGUF.
LFM2.5-1.2B-Instruct-MLX-4bit — это 4-битная квантованная версия языковой модели LFM2.5-1.2B-Instruct, разработанная LiquidAI и подготовленная командой LM Studio с использованием mlx_lm. Модель оптимизирована для запуска на устройствах Apple Silicon с поддержкой MLX. Модель предназначена для генерации текста и выполнения инструкций в локальных сценариях, где важны компактность и эффективное использование ресурсов, например в приложениях на устройствах Apple Silicon и через совместимые инструменты локального запуска. В README указана поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Архитектура и максимальная длина контекста не указаны; размер исходной модели составляет 1,2 млрд параметров. Ключевое преимущество модели — 4-битная квантование, снижающая требования к памяти и вычислительным ресурсам, а также оптимизация под Apple Silicon. К ограничениям относятся возможное снижение точности по сравнению с полной версией из-за квантования и отсутствие в предоставленных данных подробных сведений о качестве, производительности, модальностях и контекстном окне. Модель распространяется по лицензии lfm1.0; дополнительные условия следует уточнять в файле LICENSE.
LFM2.5-1.2B-Instruct-MLX-bf16 — экспорт инструкционной языковой модели Liquid AI в формате MLX для инференса на устройствах Apple Silicon. Модель использует плотную архитектуру LFM2 и содержит 1,5 млрд параметров по метаданным; в README указаны 1,2 млрд параметров и точность bfloat16. Размер файла составляет 2,2 ГБ. Модель предназначена для генерации текста и диалога. Метаданные указывают контекст до 128 000 токенов и поддержку английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. Репозиторий обозначен как дообучение LiquidAI/LFM2.5-1.2B-Instruct и распространяется по лицензии с пометкой other; конкретные условия следует проверять в карточке модели. Экспорт рассчитан на MLX и Apple Silicon.
LFM2-24B-A2B-GGUF — это квантизированная версия языковой модели LFM2-24B-A2B, разработанной LiquidAI и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель поддерживает текстовую модальность и заявлена для английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Обозначение 24B-A2B указывает на конфигурацию модели, однако в README не приведены подробности её архитектуры, размер контекста или точная интерпретация компонентов. Доступны варианты от BF16 до различных уровней квантования, примерно от 9,78 до 47,70 ГБ; более высокие уровни обычно сохраняют лучшее качество, а варианты Q3 и IQ3 требуют меньше памяти, но уступают по качеству. Сильная сторона этой версии — широкий выбор квантований для запуска на локальном оборудовании с различными ограничениями по памяти, включая варианты, рекомендованные автором как обеспечивающие высокое или хорошее качество. Ограничения связаны с потерями качества при сильном квантовании, необходимостью совместимого обновлённого программного обеспечения и отсутствием в README данных о производительности, результатах тестов, точном контексте и специализированных сценариях применения. Лицензия указана как lfm1.0; конкретные условия следует уточнять в файле LICENSE.
helloollel/Llama-3.1-8B-instruct-bilibili — дообученная helloollel диалоговая модель на архитектуре Llama 3.1 с 7,5 млрд параметров, созданная на базе unsloth/Meta-Llama-3.1-8B-Instruct. Карточка сообщает об использовании Unsloth и Hugging Face TRL для обучения. Модель предназначена для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает контекст до 131 072 токенов. В тегах карточки указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальную адаптацию к Bilibili или результаты оценки качества, поэтому её преимущества в этой области установить нельзя. Как и другие генеративные языковые модели, она может выдавать неточные ответы; возможности вызова инструментов зависят от поддерживающего их приложения.
Llama-3.1-SuperNova-Lite-IMat-GGUF — набор GGUF-квантизованных версий модели arcee-ai/Llama-3.1-SuperNova-Lite, подготовленный пользователем legraphista. Модель предназначена для генерации текста и локального запуска через llama.cpp. В README указано, что исходные веса имеют формат BF16, а квантизация выполнена с помощью llama.cpp версии b3726. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-квантов размером примерно от 3,18 до 16,07 ГБ. Для многих вариантов применена IMatrix-квантизация, призванная повысить качество при уменьшенной точности; также доступен отдельный файл imatrix.dat. Это позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью локального вывода. Модель относится к текстовым моделям и заявлена для английского языка. README не сообщает точное число параметров, архитектурные детали, размер контекста и результаты тестирования, поэтому эти характеристики нельзя достоверно оценить по имеющимся данным. К ограничениям относятся зависимость качества и требований к ресурсам от выбранного варианта квантизации, а также отсутствие заявленной мультимодальности. Лицензия указана как llama3.