I.2Синтез, понимание и проверка знаний

team-lucid/deberta-v3-base-korean — корейская базовая модель на архитектуре DeBERTa V3, опубликованная командой team-lucid. Она использует disentangled attention, улучшенное маскирование языковой модели и предобучение в стиле ELECTRA с Gradient-Disentangled Embedding Sharing. В карточке показан вариант применения для классификации последовательностей; модель подходит для задач понимания корейского текста, включая анализ тональности, распознавание смыслового сходства и классификацию пар предложений. Модель содержит 162,5 млн параметров и рассчитана на контекст до 512 токенов. В репозитории представлены веса PyTorch, Flax и safetensors. В README приведены результаты на корейских наборах NSMC, PAWS, KorNLI, KorSTS и Question Pair, однако точные значения для этой модели в доступной части таблицы не видны. Лицензия Apache-2.0 допускает использование и распространение на её условиях. Для прикладных задач классификации последовательностей может потребоваться подходящая голова классификации и настройка под целевой набор данных.

Карточка модели ark4004/DeepSeek-llama3.3-Bllossom-70B-jh на Hugging Face совпадает с карточкой UNIVA-Bllossom/DeepSeek-llama3.3-Bllossom-70B, поэтому описание составлено по ней. DeepSeek-llama3.3-Bllossom-70B — языковая модель, созданная командами UNIVA и Bllossom на базе DeepSeek-R1-Distill-Llama-70B. Это плотная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для генерации текста и диалогов с упором на рассуждения на корейском языке. Модель дообучали на корейских и английских данных рассуждений, чтобы улучшить многоязычную работу и уменьшить смешение языков: внутренние рассуждения могут выполняться на английском, а ответ формируется на языке запроса. Модель подходит для решения математических задач, ответов на сложные вопросы и диалоговых сценариев на корейском и английском языках. В README приведены примеры и результаты оценки на AIME24 и MATH500, в том числе на корейских переводах заданий. Модель распространяется по лицензии MIT. Представленные в карточке примеры и оценки не гарантируют точность ответов в других задачах; отдельные ограничения производительности не описаны.

DeepSeek-V4.1-Flash-REAP25-MLX-mixed-4_8bit — это модифицированная и квантованная сборка DeepSeek-V4.1-Flash для MLX и компьютеров Apple Silicon, разработанная PipeNetwork на основе модели DeepSeek AI. Она предназначена для текстовой генерации и запуска локального вывода через специальный MLX-порт, поскольку стандартные transformers, mlx-lm и mlx-vlm эту архитектуру не поддерживают. Визионная башня и aligner сохранены, но текущий runtime работает только с текстом. Модель содержит около 754,6 млрд параметров и использует архитектуру mixture-of-experts: 40 слоёв, по 384 маршрутизируемых эксперта в каждом, из которых после REAP-прунинга сохранено 288. Также применяются MLA с совместным использованием KV-cache между слоями, двухслойный hashed n-gram engram объёмом около 196,6 млрд параметров, hyper-connections и attention sinks. Эксперты квантизированы до 4 бит, attention, shared experts и engram — до 8 бит; часть компонентов оставлена без квантизации. Размер файлов составляет около 351,1 ГБ, для запуска требуется примерно 384 ГБ оперативной памяти. Сборка сохраняет связную генерацию и демонстрирует perplexity 2,9777 на тесте wikitext-2; по сравнению с непруненной версией ухудшение perplexity составляет около 2,81%. К ограничениям относятся значительные требования к памяти, зависимость от отдельного MLX-порта, отсутствие мультимодального вывода в текущем runtime и исключение трёх слоёв multi-token prediction. Модель распространяется по лицензии MIT; порт также доступен в отдельном репозитории PipeNetwork.

DeepSeek-V4-Flash-ConfigI-GGUF — квантизированная GGUF-сборка модели DeepSeek-V4-Flash, опубликованная thetom-ai. Это MoE-модель с 284 млрд параметров, из которых активно 21 млрд; в README указаны 43 слоя, 256 маршрутизируемых экспертов с выбором top-6, hash routing, MLA attention, mHC hyper-connections и DSA indexer. Гибридная квантизация Config-I имеет эффективную точность 2,88 бита на параметр и занимает около 95 GiB; веса разделены на три файла. Модель предназначена для генерации текста и диалогов, включая запуск на системах с 128 ГБ объединённой памяти. Для чтения её весов нужен форк llama.cpp с поддержкой TurboQuant TQ3_1S; стандартный llama.cpp не подходит. README рекомендует параметры генерации temperature 1.0 и top_p 0.95, отмечая, что жадное декодирование может вызывать циклы повторов. Для исходной модели в метаданных указана лицензия MIT.

Delta-Vector Austral-32B-GLM4-Winton-GGUF — это квантизированная версия языковой модели Austral-32B-GLM4-Winton, разработанной Delta-Vector и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В репозитории представлены варианты в формате GGUF: исходные веса BF16 размером около 65 ГБ и версии с квантизацией Q8_0, Q6, Q5, Q4, Q3 и IQ, занимающие примерно от 14,82 до 34,61 ГБ. Квантизация выполнена с использованием llama.cpp b5943 и imatrix, что позволяет выбирать баланс между качеством генерации, требованиями к памяти и скоростью работы. Рекомендуемыми названы главным образом варианты Q4–Q6; более компактные Q3 и IQ3 подходят для систем с ограниченным объёмом оперативной памяти, но дают более низкое качество. Модель является текстовой; сведения о поддерживаемых языках, длине контекста, точной архитектуре базовой модели, специальных возможностях и лицензии в представленном README не указаны. Шаблон чата также не задан явно, поэтому используется шаблон по умолчанию, который может быть некорректен; перед применением рекомендуется проверить оригинальную карточку модели Delta-Vector/Austral-32B-GLM4-Winton.

DiscoLM Mixtral 8x7b alpha — экспериментальная разговорная языковая модель, созданная Björn Plüster в рамках проекта DiscoResearch при поддержке сообщества. Она основана на Mixtral 8x7B от Mistral AI: веса преобразовали в формат Hugging Face, после чего модель дообучили на Synthia, MetaMathQA и Capybara. Архитектура — MixtralForCausalLM с разреженной MoE-схемой; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста на английском языке, включая ответы на вопросы, рассуждения и математические задачи. Она использует формат сообщений ChatML и библиотеку Transformers. Автор отмечает раннюю альфа-стадию и экспериментальный код; для запуска требуется trust_remote_code=True, пока поддержка архитектуры не включена в Transformers. Лицензия — Apache-2.0; README рекомендует использовать модель только в исследовательских целях.

jphme/em_german_leo_mistral — диалоговая языковая модель семейства EM German, разработанная для генерации и понимания немецкого текста. Это плотная модель Mistral с 7,1 млрд параметров, обученная следовать разнообразным инструкциям на немецком языке и основанная на LeoLM Mistral — модели Mistral с дополнительным предварительным обучением на немецких текстах. Модель рассчитана на ответы ассистента, диалог и другие сценарии генерации текста на немецком языке; в карточке также упоминается специальный формат промпта для RAG. Она использует формат запросов Vicuna, а размер контекста составляет 32 768 токенов. Для запуска нужны совместимые библиотеки: README отмечает, что новая на момент публикации архитектура Mistral поддерживалась не всеми библиотеками. Модель выпущена под лицензией Apache-2.0. Авторы рекомендуют её как сбалансированный по качеству и вычислительным требованиям вариант семейства, но предупреждают, что результаты могут различаться в зависимости от версии и сценария; при неудовлетворительном качестве предлагают попробовать другую или более крупную модель. В README также сказано, что модель предназначена только для исследовательского использования.

ERNIE-21B-A3B-Thinking-Gemini-3-Pro-High-Reasoning-V2 — текстовая MoE-модель Baidu, дообученная DavidAU на наборе TeichAI/gemini-3-pro-preview-high-reasoning-250x с помощью Unsloth. Она предназначена для генерации текста с развёрнутыми рассуждениями, творческого письма и диалогов общего назначения; автор отмечает компактные, но подробные ответы по существу и стабильность рассуждений при изменении температуры. Архитектура указана как Ernie4_5_MoeForCausalLM с 64 экспертами; метаданные сообщают 3,3 млрд параметров, а контекст составляет до 131 072 токенов. Модель работает с текстом и в карточке заявлена как англоязычная. Доступна по лицензии Apache-2.0. Автор предупреждает, что низкобитные квантованные версии могут зацикливаться; качество также зависит от настроек сэмплирования.

noctrex/ERNIE-4.5-21B-A3B-PT-MXFP4_MOE-GGUF — GGUF-квантование MXFP4_MOE модели ERNIE-4.5-21B-A3B-PT. В карточке указана Baidu-модель как исходная; метаданные описывают её как текстовую MoE-модель для диалоговой генерации и понимания текста на китайском и английском языках. Модель предназначена для генерации текста и диалогового общения. Формат GGUF подходит для запуска в совместимом локальном ПО. В README не приведены сведения о размере, длине контекста, условиях лицензии или численных характеристиках качества.

MaziyarPanahi/Experiment28M7_Experiment27Experiment29 — объединённая языковая модель на архитектуре Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/Experiment27Experiment29-7B. В репозитории представлены веса SafeTensors объёмом 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и может применяться в сценариях, где требуется продолжить текстовый запрос или получить текстовый ответ. README и метаданные не описывают специальную предметную область, набор языков или дополнительные возможности. Модель распространяется по лицензии Apache-2.0. Данных о качестве, обучающей смеси и специальных ограничениях в карточке нет.

Falcon3-7B-Instruct-abliterated-GGUF — это GGUF-квантизированная версия инструкционной модели Falcon3-7B-Instruct-abliterated, подготовленная пользователем bartowski на основе модели huihui-ai. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от F16 до низкобитных Q3 и IQ3/IQ4. Модель предназначена для локального запуска и генерации текста, в том числе через LM Studio и другие совместимые приложения на базе llama.cpp. Модель относится к классу примерно 7-миллиардных языковых моделей и работает в текстовой модальности. В README заявлена поддержка английского, французского, испанского и португальского языков. Для диалогов используется формат с ролями system, user и assistant. Варианты Q6 и выше ориентированы на высокое качество, Q4 предлагают компромисс между качеством и требованиями к памяти, а Q3 предназначены для систем с ограниченным объёмом RAM. F16-файл занимает около 14,92 ГБ, наиболее компактные варианты — около 3,4–4,3 ГБ. К сильным сторонам относятся широкий выбор уровней квантизации, возможность локального запуска и сохранение высокого качества у вариантов Q5–Q8. Ограничения включают возможное снижение качества на низких уровнях квантизации; сведения об архитектуре, размере контекстного окна, производительности и мультимодальных возможностях в README не указаны. Модель распространяется по лицензии Falcon LLM License; для условий использования следует обратиться к официальной странице лицензии.

flammen17-py-DPO-v1-7B — языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная nbeerbower. Это дообученная версия flammen17-mistral-7B, которая, согласно README, была получена слиянием предварительно обученных моделей и затем обучена методом Direct Preference Optimization на датасете jondurbin/py-dpo-v0.1. Для дообучения использовались LoRA и GPU A100 в Google Colab. Модель предназначена для генерации текста и диалоговых сценариев на базе Mistral; доступный контекст — до 32 768 токенов. В репозитории указаны веса Safetensors и библиотека Transformers. Метаданные не подтверждают поддержку конкретных естественных языков или специализированных прикладных областей. Лицензия модели — Apache-2.0. Оценки качества и конкретные ограничения в README не приведены.

AvoCahDoe/gemma-2-9b-rlmpq-extreme-survival — вариант Google Gemma 2 9B, полученный методом RL-MPQ (Reinforcement Learning Mixed-Precision Quantization) для сценария Extreme Survival. Это плотная авторегрессионная модель Gemma2ForCausalLM с 9 млрд параметров и контекстом 8192 токена; она предназначена для генерации текста и может использоваться в типичных сценариях базовой Gemma 2, включая диалоги, суммаризацию и ответы на вопросы. В карточке указано среднее значение 2,7857 бита на вес и описаны назначение битности по слоям с помощью PPO, проверка качества по perplexity на WikiText-2 и экспорт весов для Transformers. Модель принимает и генерирует текст на английском языке. Веса представлены как fake-quantized FP16 в формате safetensors; заявлена совместимость с Hugging Face Transformers. Это компромиссный вариант с очень низкой средней битностью для сценария Extreme Survival, поэтому качество генерации может быть ограничено; в README приведены результаты perplexity для других вариантов коллекции, но не для этого чекпойнта. Лицензия — Gemma; применяются условия использования Gemma от Google.

Mungert/gemma-3-27b-it-GGUF — это квантованная GGUF-версия мультимодальной инструкционной модели Gemma 3 27B IT, разработанной Google и преобразованной в формат GGUF автором Mungert. Базовая модель указана как google/gemma-3-27b-pt. Модель предназначена для диалогового использования, генерации текста и анализа изображений через экспериментальную поддержку Gemma 3 Vision в llama.cpp. Из README известно, что модель поддерживает текст и изображения, а для работы с изображениями требуется отдельный файл mmproj. Предусмотрен запуск через llama-gemma3-cli; доступны команды загрузки изображения, очистки истории и выхода. Точные сведения о языках, размере контекста, параметрах конкретных квантованных файлов и их производительности для версии 27B в README не приведены. Описанный подход с IQ-DynamicGate относится к экспериментам на Llama-3-8B и не подтверждает характеристики данной модели. Основные преимущества — мультимодальность, возможность локального запуска и снижение требований к памяти благодаря квантованию. Ограничения включают экспериментальный статус поддержки Vision в llama.cpp, необходимость совместимого runtime и отдельного mmproj-файла, а также потенциальную потерю качества при низкобитном квантовании. Для доступа на Hugging Face требуется принять лицензию Google Gemma; в карточке указана лицензия gemma.

Это созданная pirola конверсия Gemma 4 26B-A4B Instruct в формате GGUF с ручной смешанной квантизацией, настроенной для графических процессоров NVIDIA Blackwell, в частности RTX 5080. В модели 30 слоёв с гибридным вниманием SWA и FULL; файл весит 13,1 ГБ, а экспертные тензоры используют MXFP4. Плотные и постоянно активные веса оставлены в форматах с более высокой точностью. Модель предназначена для генерации текста и диалогов. Автор сообщает о контексте до 165 376 токенов на RTX 5080 с MXFP4-кэшем KV и приводит результат perplexity 226,42 на Wikitext-2. Для запуска требуются llama.cpp b8493 или новее и CUDA 12.8+ либо CUDA 13.2; для полного контекста нужен отдельный форк llama.cpp с поддержкой MXFP4-кэша KV. Лицензия — Gemma.

Gemma-4-26B-A4B-it-qat-q4_0-uncensored-heretic-NVFP4-GGUF — модель, созданная независимым разработчиком LLMfan46 на основе Google Gemma 4 26B A4B Instruct. Это decensored-версия исходной модели, полученная с использованием Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA). Модель распространяется в формате GGUF с NVFP4-квантизацией и предназначена для генерации текста и работы с изображениями и текстом, согласно указанному pipeline image-text-to-text. Модель ориентирована на диалоги, следование инструкциям и мультимодальные сценарии, где требуется обработка текстовых и визуальных входных данных. В README указаны размер 26B и конфигурация A4B, однако сведения о максимальной длине контекста, поддерживаемых языках и точном наборе мультимодальных возможностей не приведены. Изменения направлены на снижение числа отказов и ограничений: в заявленном тесте частота отказов составила 11 из 100 против 100 из 100 у оригинальной модели, а KL-дивергенция относительно исходной версии — 0,0618. К сильным сторонам относятся близость к исходной Gemma 4 по поведению, уменьшенное количество отказов и потенциально более широкий спектр допустимых запросов. Ограничениями являются NVFP4-квантизация, возможная потеря точности по сравнению с полной версией, а также отсутствие подробных данных о производительности в мультимодальных задачах и языковом покрытии. Модель лицензирована по Apache-2.0; при этом для Gemma применяются дополнительные условия лицензии Google, на которые ссылается README.

EZForever/gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF — мультимодальная модель класса image-text-to-text на базе Gemma 4 31B-it. Она создана как merge-модель: объединяет компоненты unsloth/gemma-4-31B-it-qat-GGUF и llmfan46/gemma-4-31B-it-qat-q4_0-unquantized-uncensored-heretic с использованием изменённых, «abliterated» тензоров. Модель предназначена для диалогов, генерации текста и обработки изображений совместно с текстом; для мультимодальной работы требуются файлы mmproj и для поддержки MTP — соответствующий файл mtp от Unsloth. Доступны варианты UDmerge-Q4_K_XL и UDmerge-Q4_K_XXL в формате GGUF. Размеры составляют примерно 17,3 и 18,0 ГБ соответственно. В варианте Q4_K_XL изменённые тензоры квантизуются в Q4_0, а в Q4_K_XXL — в Q8_0; второй вариант, по данным автора, заметно улучшает показатель отказов при почти неизменной скорости генерации, но требует больше памяти. В README не указаны поддерживаемые языки и размер контекстного окна. Сильными сторонами заявлены сохранение качества после квантизации, поддержка мультимодальности и более низкая склонность к отказам в сравнении с исходными моделями. Приведённые результаты зависят от варианта и методики тестирования: для UDmerge-Q4_K_XL указаны 85,83% на MMLU-val и 34% отказов, для UDmerge-Q4_K_XXL — 84,19% и 20% соответственно. Автор предупреждает, что результаты тестов отказов могут быть неточными, а модель создана при значительной помощи LLM и предлагается к использованию на усмотрение пользователя. В метаданных указана лицензия Apache-2.0.

GLM-4.5-Air-MLX-8bit — это 8-битная квантованная версия языковой модели GLM-4.5-Air, разработанной компанией zai-org. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и совместима с экосистемой Transformers; заявленные языки — английский и китайский. Модель подходит для локального текстового общения, генерации и обработки текста на поддерживаемых устройствах. Квантование снижает требования к памяти по сравнению с полноразмерной версией и оптимизировано для Apple Silicon, однако может сопровождаться потерей качества относительно исходной модели. В README не указаны архитектура, количество параметров, размер контекста, поддерживаемые модальности и результаты тестирования, поэтому эти характеристики нельзя уточнить. Для модели указана лицензия MIT.

TheBloke/gpt4-alpaca-lora-13B-HF — версия модели gpt4-alpaca-lora-13b в формате Hugging Face, опубликованная TheBloke. Это плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров, дообученная методом instruction following на данных alpaca_data_gpt4.json с использованием LoRA; в карточке указана базовая модель decapoda-research/llama-30b-hf. Репозиторий содержит объединённую модель в формате PyTorch. Модель предназначена для генерации ответов на инструкции и диалогового общения на английском языке. Она может служить основой чат-бота, помощника для ответов на вопросы и генератора текстов по запросу. Указанное в метаданных окно контекста составляет 2048 токенов. Лицензия обозначена как other, поэтому конкретные условия использования по имеющимся сведениям определить нельзя. Модель основана на LLaMA и унаследовала её ограничения; качество и надёжность ответов не гарантированы. Указанный в README базовый чекпойнт имеет 30B параметров, тогда как опубликованная версия — 13B; README не поясняет это расхождение.

Это квантизированная GGUF-версия модели AmanPriyanshu/gpt-oss-6.0b-specialized-all-pruned-moe-only-7-experts, подготовленная и опубликованная mradermacher. Модель основана на архитектуре Transformer с причинным языковым моделированием и использует подход mixture-of-experts с pruning: в исходной специализированной модели оставлены семь экспертов. В карточке также указано, что при подготовке использовались активации экспертов из набора AmanPriyanshu/GPT-OSS-20B-MoE-expert-activations. Модель предназначена для генерации текста, reasoning-сценариев и специализированных предметных задач на английском языке. Она поставляется в формате GGUF с imatrix-квантизациями различных уровней, поэтому может использоваться в средах, поддерживающих этот формат, при ограниченных ресурсах. Размер доступных файлов составляет примерно 3,7–4,0 ГБ, однако точные сведения о числе параметров, длине контекста, поддерживаемых модальностях и конкретных предметных областях в README не приведены. Сильными сторонами являются компактный размер, применение MoE и экспертного pruning, а также широкий выбор вариантов квантизации с компромиссом между качеством, скоростью и требованиями к памяти. Ограничения включают английскую языковую специализацию, возможное заметное снижение качества у наиболее агрессивных квантизаций и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

Granite-4.1-8B-Tangerine — разговорная языковая модель на архитектуре Granite, созданная независимой лабораторией Nightmedia AI как NuSLERP-слияние нескольких моделей семейства Granite. В числе компонентов и участников слияния указаны модели для рассуждений и программирования, включая ibm-granite/granite-4.1-8b. Модель имеет 8,4 млрд параметров, поддерживает контекст до 131 072 токенов и представлена в формате safetensors; библиотека для работы с репозиторием — MLX. Модель предназначена для генерации текста и диалогов, включая ответы с переменным режимом внутреннего рассуждения. Автор описывает её как исследовательскую модель emergent-поведения и отмечает многословность и нестабильность ответов; для программирования она может подходить не всегда. В карточке есть примеры анализа и повествовательного диалога, но они не подтверждают гарантированное качество в этих задачах. Лицензия — Apache-2.0. README не перечисляет языки явно, а метаданные описывают базовое семейство как многоязычное, поэтому модель можно характеризовать как поддерживающую несколько языков без выделения основного.

transformer3/H2-keywordextractor — модель суммаризации на базе архитектуры BART, обученная через AutoTrain. Она предназначена для создания кратких текстов по входному материалу; в карточке указана задача суммаризации, а датасет связан с финансовой тематикой. Модель содержит 252,8 млн параметров, принимает текст с контекстом до 1024 токенов и выдаёт текст. Доступны веса PyTorch. В карточке приведены метрики валидации: ROUGE-1 29,067, ROUGE-2 19,200 и ROUGE-L 26,900. Лицензия в предоставленных данных не указана.

Hemlock-Philter-14B-i1-GGUF — GGUF-квантизированная версия языковой модели Hemlock-Philter-14B, разработанной nbeerbower и дополнительно квантизированной mradermacher. Модель предназначена для генерации текста на английском языке; в метаданных также указаны базовая библиотека Transformers, набор данных hemlang/Hemlock2-DPO и теги text-generation, ORPO, merlina и grimoire. Модель имеет размер 14B параметров, однако сведения о конкретной архитектуре, максимальной длине контекста и поддерживаемых модальностях в README не приведены. Репозиторий содержит множество вариантов GGUF-квантизации с разным размером и компромиссом между скоростью, качеством и требованиями к памяти. Для большинства сценариев автор рекомендует варианты i1-Q4_K_M, а i1-Q4_K_S отмечен как оптимальный баланс размера, скорости и качества; более низкие уровни квантизации могут заметно снижать качество. Основные ограничения — отсутствие заявленных характеристик контекстного окна, подробных результатов оценки и информации о лицензии. Условия использования модели и производных файлов необходимо уточнять отдельно у разработчика или в исходном репозитории.

HuatuoGPT-13b-delta — языковая модель семейства LLaMA с 12,9 млрд параметров, представленная проектом HuatuoGPT. Репозиторий направляет к проекту, но не содержит подробностей о назначении и обучении именно этой версии. Модель использует архитектуру LlamaForCausalLM, принимает текст и генерирует текст. В метаданных указано контекстное окно 2048 токенов и формат PyTorch. Лицензия — Apache-2.0.

HyperCLOVAX-SEED-Text-Instruct-1.5B — текстовая генеративная модель NAVER на основе плотной архитектуры Transformer, содержащая 1,5 млрд параметров. Она предназначена для диалогов и выполнения инструкций, а также для задач понимания и генерации текста. По данным карточки, модель показывает конкурентные результаты на тестах корейского языка и культуры. Модель принимает и выдаёт текст и поддерживает контекст до 16 тысяч токенов. Обучение включало предварительное обучение, донастройку на качественных данных и инструктивную настройку; также применялось усиление для работы с длинным контекстом. Данные обучения включают материалы до августа 2024 года. В карточке указаны результаты на корейских бенчмарках и сравнение с другими моделями, но не приведены лицензия с конкретными условиями использования или оценки ограничений за пределами этих тестов.

Это GGUF-квантизованная версия языковой модели L3.3-Ignition-v0.1-70B, разработанной invisietch и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска в локальных приложениях на базе llama.cpp, включая LM Studio. Модель имеет размер 70B параметров и представлена в нескольких вариантах квантования от Q8_0 до Q2_K_L, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Для квантизации использовался llama.cpp с методом imatrix и калибровочными наборами данных. Наиболее качественными и рекомендуемыми в README названы варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M; более компактные варианты обеспечивают экономию памяти за счёт снижения качества. Модель подходит для локальной текстовой генерации, однако конкретные языки, длина контекста, архитектурные особенности исходной модели, рекомендуемый формат промпта и результаты оценки в README не указаны. Лицензия также не приведена, поэтому условия использования следует уточнять на странице исходной модели invisietch/L3.3-Ignition-v0.1-70B. Для работы требуются совместимое приложение на базе llama.cpp и значительный объём памяти, особенно для вариантов высокого качества.

KARAKURI LM 70B v0.1 — предварительно обученная причинная языковая модель с архитектурой Llama, разработанная KARAKURI Inc. на основе meta-llama/Llama-2-70b-hf. Модель содержит 68,8 млрд параметров и рассчитана на генерацию текста на японском и английском языках; контекст — до 4096 токенов. Модель расширяет словарь Llama 2 японской лексикой и прошла дополнительное обучение на японских и многоязычных корпусах, включая mC4, CC100, OSCAR и RedPajama, а также внутренние японские данные разработчика. Подходит для генерации продолжений текста и ответов на запросы на японском и английском языках. В README приведены результаты MT-Bench-jp и MT-Bench; они относятся к версии KARAKURI LM 70B Chat v0.1, поэтому их нельзя напрямую считать оценкой этой базовой версии. В репозитории представлены веса SafeTensors для Transformers. Лицензия указана как other; перед использованием следует проверить условия лицензии на странице модели и базовой Llama 2. Модель может генерировать ошибки и не гарантирует фактическую точность ответов.

L3.3-70B-Lycosa-v0.1 — экспериментальная разговорная языковая модель с архитектурой Llama, созданная автором divinetaco методом слияния mergekit. В состав вошли DeepSeek-R1-Distill-Llama-70B и несколько моделей Llama 70B; в README указаны sce-слияние и формат bfloat16. Модель содержит около 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста с акцентом на рассуждения, творческие ответы и снижение позитивной предвзятости. Карточка отмечает её как RP-модель и допускает, что применение шаблона чата Llama 3.3 может улучшить результаты по сравнению с шаблоном DeepSeek по умолчанию. Лицензия — Llama 3.3. Модель помечена как предназначенная не для всех аудиторий и как NSFW, поэтому её следует использовать с учётом возможности взрослого или откровенного контента. Качество и поведение могут зависеть от используемого шаблона чата; README не приводит количественных оценок производительности.

Llama-3.1-8B-Lexi-Uncensored-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Llama-3.1-8B-Lexi-Uncensored, разработанной Orenguteng и подготовленной в формате GGUF пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от F32 до низкобитных Q2 и IQ-квантизаций. Модель предназначена для генерации текста и локального запуска в совместимых приложениях, включая LM Studio. Объём файлов варьируется примерно от 2,95 до 32,13 ГБ в зависимости от варианта. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти; Q6_K_L, Q6_K, варианты Q5 и Q4 отмечены как рекомендуемые, тогда как низкобитные варианты ориентированы на системы с ограниченным объёмом RAM и могут заметно уступать по качеству. Модель использует архитектуру семейства Llama 3.1 с размером 8B параметров и поддерживает текстовый ввод и вывод. В README не указаны точное максимальное окно контекста и перечень языков. Для корректной работы следует применять указанный формат prompt с системными и пользовательскими сообщениями. Лицензия обозначена как llama3.1; дополнительные условия этой лицензии в README не приведены.

Llama-3.1-8B-Lexi-Uncensored-V2-GGUF — это набор файлов модели в формате GGUF для текстовой генерации. Исходную модель Llama-3.1-8B-Lexi-Uncensored-V2 разработал Orenguteng, а квантованные файлы подготовил MaziyarPanahi. Модель предназначена для локального запуска и генерации текста с использованием совместимых приложений и библиотек. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством генерации. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами; возможна аппаратная GPU-акселерация, а некоторые реализации предоставляют OpenAI-совместимый API. README не содержит сведений о точном размере контекста, языках, поддерживаемых модальностях, результатах оценивания или ограничениях поведения модели. Указаний о лицензии также нет, поэтому условия использования следует уточнять в документации исходной модели и репозитория. Модель ориентирована на текстовые задачи и не предназначена для обработки изображений или других мультимодальных данных.