I.2Синтез, понимание и проверка знаний

gemma-4-31B-anthology-GGUF — это квантизированная GGUF-версия модели gemma-4-31B-anthology, созданная на основе MRockatansky/gemma-4-31B-anthology и подготовленная mradermacher. Модель относится к семейству Gemma 4, использует архитектуру и параметры исходной модели объёмом 31 млрд параметров. В метаданных указаны английский язык и библиотека Transformers; также модель помечена как результат merge-объединения, ориентированный на генерацию текста, творческое письмо и сторителлинг. Репозиторий предоставляет варианты квантизации GGUF размером примерно от 12 до 32,7 ГБ, включая Q2_K, Q4_K_S, Q4_K_M, Q6_K и Q8_0. Это позволяет выбирать между сниженным потреблением памяти и сохранением качества; Q4_K_S и Q4_K_M обозначены как быстрые и рекомендуемые, а Q6_K — как вариант очень хорошего качества. Для мультимодального использования доступны дополнительные файлы mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые типы входных данных и контекстное окно в README не указаны. Модель предназначена для локального запуска в совместимых инструментах, поддерживающих формат GGUF, и может использоваться для текстовой генерации, творческого письма и создания историй. Ключевые ограничения — отсутствие подробных сведений о базовой архитектуре, контекстной длине, результатах оценки, безопасности и фактических мультимодальных возможностях. Распространение указано по лицензии Apache-2.0.

llmfan46/gemma-4-31B-it-uncensored-heretic-GGUF — GGUF-квантизации модели llmfan46/gemma-4-31B-it-uncensored-heretic, разработанной независимым автором llmfan46 на основе Google Gemma 4 31B Instruct. Модель предназначена для генерации текста и, согласно указанному pipeline_tag, может использоваться в сценариях image-text-to-text. Размер модели — 31B параметров; конкретные варианты квантизации, поддерживаемые языки и размер контекстного окна в представленном README не указаны. Это декенсурированная версия исходной gemma-4-31B-it, созданная с помощью Heretic 1.2.0 и метода Arbitrary-Rank Ablation (ARA). Основное преимущество — существенно меньшее число отказов: 10 из 100 против 99 из 100 у оригинальной модели, при заявленной близости к исходному поведению с KL-дивергенцией 0,0541. В README также приведены результаты MMLU оригинальной модели, однако полный набор результатов для этой версии представлен не полностью, поэтому нельзя достоверно оценить сохранение качества по всем задачам. Модель ориентирована на пользователей, которым требуется более свободная генерация и меньше ограничений, но снижение числа отказов может означать ослабление встроенных механизмов безопасности. Доступна по лицензии Apache-2.0 с дополнительной ссылкой на лицензию Gemma от Google; условия лицензии Gemma следует учитывать отдельно.

Gemma4-31B-Uncensored-GP100-GGUF — это GGUF-сборка плотной языковой модели Gemma 4 на 31 млрд параметров. Пакет подготовлен fallentree на основе google/gemma-4-31B-it и неконтентно-фильтрованной QAT-версии от HauhauCS. Модель предназначена для локальной генерации текста и исследовательского использования через llama.cpp, включая ускоренную генерацию со speculative decoding и официальной MTP-моделью-помощником. Архитектура включает 60 слоёв, размерность модели 5376, словарь из 262 144 токенов и контекст до 262 144 токенов со sliding window 1024. Используется квантизация Q4_1_G64 с точностью 4,52 bpw; основной файл занимает около 16,2 GiB. Сборка оптимизирована для двух GPU Tesla P100 с архитектурой sm_60 и поддерживает только текстовый режим в заявленном окне контекста. Для работы требуются специализированная версия thefallentree/llama.cpp-gp100 и исправление Gemma MTP; стандартный llama.cpp этот тип квантизации не загружает. К сильным сторонам относятся существенное ускорение на Tesla P100 по сравнению с Q4_K_M, экономичное размещение модели и поддержка MTP. Ограничения включают зависимость от специального runtime и GPU sm_60, отсутствие заявленной мультимодальности в этой сборке, а также то, что модель не является safety-tuned deployment-моделью и имеет uncensored-настройку. Лицензия унаследована от Gemma и указана как Gemma License; README отмечает локальный inference и исследовательское использование.

Gemma-4-E4B-Uncensored-HauhauCS-Aggressive — модификация Gemma 4 E4B-IT, разработанная HauhauCS на базе модели Google gemma-4-e4b-it. По заявлению автора, изменения не затрагивают обучающие данные и основные возможности, а направлены на удаление отказов и защитных ограничений; вариант Aggressive позиционируется как полностью разблокированный и ориентированный на генерацию ответов без отказов. Модель предназначена для диалоговых и генеративных задач, включая работу с текстом, изображениями, видео и аудио, а также для локального запуска в llama.cpp, LM Studio, Jan, koboldcpp и других средах, совместимых с GGUF. Модель содержит около 4 млрд параметров, 42 слоя и использует смешанную архитектуру со скользящим окном внимания 512 и полным вниманием. Заявлен контекст до 131K токенов и 18 общих KV-слоёв для повышения эффективности памяти. Поддерживаются английский и другие языки, однако конкретный перечень языков не указан. Для мультимодальной работы требуется отдельный файл mmproj; доступны GGUF-квантизации Q2–Q8, включая пользовательские K_P-варианты с оптимизацией по imatrix и заявленным сохранением качества. Сильной стороной является сочетание компактного размера, большого контекстного окна, мультимодальности и широкого выбора квантизаций. Ограничение модели — отсутствие обычных защитных отказов, что повышает риск небезопасных или нежелательных ответов; автор также отмечает ограниченное ручное тестирование на длинном контексте и возможность кратких встроенных дисклеймеров. Для корректного шаблона чата в llama.cpp рекомендуется использовать параметр --jinja. Модель распространяется по лицензии Gemma.

GLM-5.3-Flash-GGUF — это общественная GGUF-конверсия мультимодальной модели GLM-5.3-Flash от Z.ai, выполненная пользователем vcruz305 для запуска через llama.cpp. Модель предназначена для генерации текста и обработки изображений с использованием отдельного vision-проектора mmproj; заявлены английский и китайский языки. Она является квантизированной версией zai-org/GLM-5.3-Flash-BF16. В основе лежит архитектура Glm5NextForConditionalGeneration размером 320B-A18B с MoE на 288 экспертов и общим экспертом. Конверсия включает гибридные KDA-слои gated delta-net, разреженные MLA-слои NoPE с lightning indexer и IndexPool, механизм mHC, а также MTP/NextN для спекулятивного декодирования. Доступны варианты GGUF F16, Q2_K и Q4_K_M; размеры файлов составляют примерно 598, 109 и 180 ГиБ соответственно. Для мультимодального режима требуется отдельный файл mmproj. Сильными сторонами являются поддержка текста и изображений, совместимость с llama.cpp и наличие MTP-декодирования, способного ускорять генерацию при использовании подходящего форка и оборудования. Ограничения включают очень большие требования к дисковому пространству и памяти, зависимость от специальной версии llama.cpp и отсутствие imatrix при квантизации. Модель распространяется по лицензии MIT; квантизацию выполнил vcruz305.

GPT_124M-Instruct — компактная авторегрессионная модель генерации текста, разработанная Samkeet Sangai на основе GPT-2 и дообученная для следования инструкциям. В метаданных указаны 124 млн параметров по названию модели, англоязычная поддержка, библиотека Transformers и набор данных fineweb-edu. README также описывает обучение на примерах Alpaca в формате «инструкция — ответ» с контекстом до 1024 токенов, однако содержит расходящиеся сведения о данных и настройке модели. Модель предназначена для генерации ответов на инструкции, продолжения текста, диалогов, кратких пересказов и творческих текстов. Это decoder-only трансформер с причинным языковым моделированием; вход и выход — текст. Заявлены обучение в FP32 и возможность LoRA-настройки, но карточка не позволяет однозначно установить, какие из описанных вариантов относятся именно к опубликованным весам. Модель может галлюцинировать, воспроизводить смещения из обучающих данных и выдавать небезопасный или оскорбительный текст; она не имеет специальной настройки безопасности и не подходит для решений, требующих высокой достоверности, в частности в медицине, праве и финансах. Лицензия — MIT.

pugant подготовил ROCmFP4-STRIX_LEAN — квантизованную GGUF-версию grug-35b-v2, мультимодальной модели семейства Qwen3.5-VL-MoE с 35 млрд параметров и примерно 3 млрд активных параметров на токен. Она принимает текст и изображения и предназначена для диалогового инференса с визуальными запросами, а также для обычного текстового чата. Квантизация Q4_0_ROCMFP4_STRIX_LEAN занимает около 17,3 ГиБ; для работы с изображениями требуется отдельный vision-проектор в формате F16. Версия оптимизирована и проверена на AMD Strix Halo с графикой gfx1151 через сборку ROCmFPX с поддержкой пользовательского формата GGUF; стандартный llama.cpp этот формат не загружает. Автор приводит скорость генерации и обработки промптов, но не публикует оценок качества модели. Репозиторий указывает лицензию Apache-2.0; базовая модель также распространяется под Apache-2.0. Модель может работать на английском и поддерживает многоязычные сценарии, однако конкретный перечень языков в карточке не приведён.

HiveCoderPlus-Abliterated — мультимодальная модель на основе Google Gemma 4 12B Instruct, представленная пользователем theailearner. Веса модели изменены методом ортогонализации направления отказа в остаточном потоке; README сообщает, что дополнительное дообучение не проводилось. Репозиторий содержит веса safetensors для Transformers, а карточка Hugging Face относит модель к задаче image-text-to-text и указывает поддержку диалога и изображений. Модель предназначена для диалога и ответов на запросы с текстом и изображениями; базовая модель также поддерживает видео и аудио. Изменение ослабляет отказы на запросы, на которые базовая модель могла отказывать. Лицензия — Gemma; README указывает, что следует соблюдать её условия и применимое законодательство. Удаление защитных отказов повышает риск небезопасных ответов.

Это версия Huihui-gemma-4-E2B-it-abliterated, преобразованная в формат MLX для использования на устройствах Apple. Модель создана на основе дообученной мультимодальной Gemma 4 E2B IT; в карточке указано, что преобразование выполнено с помощью mlx-vlm 0.6.12. Архитектура — плотная Gemma 4, класс Gemma4ForConditionalGeneration. Модель предназначена для мультимодальных диалогов и генерации ответов. Метаданные классифицируют её как any-to-any, а базовая карточка описывает её как экспериментальную версию с ослабленными отказами. Репозиторий содержит веса safetensors и распространяется по лицензии Apache 2.0.

Huihui-Qwen3-30B-A3B-Thinking-2507-abliterated — экспериментальная версия Qwen3, созданная huihui-ai методом abliteration, который снижает число отказов модели. Это разговорная языковая модель с архитектурой MoE, предназначенная для генерации ответов и рассуждений в диалоге. В README автор характеризует реализацию как грубую проверку концепции. Модель рассчитана на текстовый ввод и генерацию текста; в метаданных указан английский язык и контекст длиной 262 144 токена. Она основана на Qwen/Qwen3-30B-A3B-Thinking-2507, распространяется в формате safetensors и доступна по лицензии Apache-2.0. Указанные в метаданных 2,6 млрд параметров относятся к активной части MoE-модели. Снижение защитных отказов может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты следует проверять. Это ограничение безопасности отмечено автором модели.

Huihui-Qwen3.8-27B-abliterated-Q6_K-GGUF — это квантизированная версия модели Huihui-Qwen3.8-27B-abliterated, разработанной huihui-ai и опубликованной пользователем ajaeger74. Репозиторий содержит вариант в формате GGUF с квантизацией Q6_K; дополнительное дообучение или обучение для этой версии не выполнялось. Модель предназначена для диалоговых сценариев и задач image-text-to-text, то есть обработки и генерации текста на основе текстовых и, вероятно, визуальных входных данных. В метаданных указаны совместимость с Transformers и llama.cpp, а также размер базовой модели 27B. Модель описана как abliterated и uncensored, однако README не содержит подробностей о поддерживаемых языках, размере контекста, конкретной архитектуре и практических ограничениях. Распространение осуществляется по лицензии Apache-2.0. Ключевое преимущество этой версии — существенное уменьшение требований к вычислительным ресурсам за счёт квантизации Q6_K при сохранении формата GGUF для локального запуска. Ограничения связаны с отсутствием в README результатов тестирования, сравнений качества и точных требований к оборудованию.

Это GGUF-квантизация модели gpt-oss-120b-uncensored-bf16, разработанной huizimao и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие проекты на его основе. Формат pipeline — text-generation, однако точный шаблон промпта в README не указан. Модель имеет размер 120 миллиардов параметров и использует архитектуру, связанную с OpenAI gpt-oss; в README упоминается MoE-компонент и специальный формат MXFP4_MOE для feed-forward networks. Рекомендуемый файл занимает 63,39 ГБ и поддерживает запуск в формате GGUF. Доступны также варианты Q6_K, Q4_K, Q3_K, Q2_K и IQ-квантизаций, но их преимущество по размеру ограничено, поскольку FFN сохраняются в MXFP4_MOE. Сведения о поддерживаемых языках, длине контекста, мультимодальности, качестве и лицензии не приведены, поэтому эти характеристики нельзя достоверно оценить по представленному README.

ICONOCLAST Qwen2.5 14B — плотная авторегрессионная языковая модель на архитектуре Qwen2ForCausalLM, выпущенная Varesh Patel как часть серии экспериментов по абляции и редактированию представлений. Это дообученная и отредактированная версия Qwen/Qwen2.5-14B-Instruct с весами в формате safetensors и точностью float16; размер модели — 14 млрд параметров, контекст — 32 768 токенов. Модель предназначена для генерации текста и диалогов, а также для изучения того, как целевое редактирование поведения влияет на утечку персональных данных при сохранении общей полезности. В приведённом тесте генерации структурированных персональных идентификаторов утечка снизилась с 77 из 150 запросов у базовой модели до 74 из 150, а результат MMLU сохранился на уровне 79,21%. Это ограниченные результаты конкретных тестов и не гарантируют аналогичного поведения в других сценариях. Модель выпущена по лицензии AGPL-3.0; автор позиционирует её для исследований, воспроизводимости и оценки методов редактирования моделей.

InfoDensity-Qwen3-8B — дообученная модель семейства Qwen3, созданная на базе Qwen/Qwen3-8B с применением метода InfoDensity. Метод использует подкрепление за правильные и более информационно насыщенные рассуждения, чтобы сократить длину цепочки рассуждений при сохранении точности. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM, предназначена для генерации текста и поддерживает контекст до 40 960 токенов. Модель ориентирована на задачи рассуждения, особенно математические и научные вопросы. В статье авторы сообщают о результатах на AMC23, AIME24, MATH500 и GPQA-Diamond: средняя точность pass@1 составила 78,1%, а средняя длина генерации — 4,2 тыс. токенов; эти показатели приведены для описанного в README протокола оценки и не гарантируют аналогичных результатов в других условиях. Модель использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

ISOM-R1-Enterprise-40B-Beta — экспериментальная реализация Prannessh K.V.A. для запуска Falcon-40B-Instruct с ограниченным кэшем KV. Согласно карточке, веса Falcon загружаются без изменений, а собственная часть проекта применяется во время инференса: использует динамический кэш IsomStateCache, INT8-квантование кэша и отбор ориентиров по оценке значимости. Это не дообученная версия весов Falcon. Модель предназначена для генерации текста, рассуждений и анализа длинных документов в сценариях с ограниченной памятью. В README описана архитектура Falcon с 60 слоями и многозапросным вниманием; заявлены 40 млрд параметров, тогда как метаданные указывают 65 млрд. Метаданные задают контекст 8192 токена, а README приводит теоретические спецификации вплоть до 32768 токенов и бюджет кэша 4096 токенов. Заявленные характеристики кэша представлены как теоретические расчёты, а не как результаты аудированных аппаратных испытаний. Карточка указывает английский язык и лицензию CC BY-NC-ND 4.0 для авторских компонентов; базовые веса Falcon-40B-Instruct распространяются по Apache 2.0. Для практического развёртывания README ориентируется на мног GPU-системы корпоративного класса. Различие в заявленном числе параметров и отсутствие эмпирической проверки длинных контекстов требуют осторожности при планировании ресурсов и оценке качества.

Jamba2 3B Turkish SFT v1 — дообученная для следования инструкциям и диалогов языковая модель семейства Jamba, опубликованная linguai. Это слитый с базовой моделью BF16-артефакт LoRA-дообучения serda-dev/Jamba2-3B-Turkish; в метаданных указано 2,3 млрд параметров и контекст до 262 144 токенов. Модель предназначена для генерации ответов на инструкции и общения, прежде всего на турецком языке; в карточке также отмечен английский. Дообучение проведено на смеси из 35 800 проверенных и синтетически созданных турецких инструкций. Диагностическая оценка на 84 примерах дала правильность по смыслу и задаче 62/84, а соблюдение формата — 58/84; авторы предупреждают, что набор оценки пока не прошёл этапы фиксации, проверки пересечений и человеческого ревью, поэтому результаты не являются релизной оценкой. Для загрузки указано использование Transformers и BF16. Лицензия в предоставленных данных не указана.

Это набор GGUF-квантизаций инструкционной языковой модели jc9080/llama3-open-ko-8b-Instruct-shimshimi-500-ver2. Исходную модель разработал автор или организация jc9080, а квантизации подготовил Featherless AI Quants. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, где требуется выполнение инструкций; формат GGUF ориентирован на локальный запуск в совместимом программном обеспечении. В названии указано 8B, что обозначает класс модели примерно с 8 миллиардами параметров. Доступны варианты IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ. Разные уровни квантизации позволяют выбирать между меньшими требованиями к памяти и сохранением качества, однако README не содержит результатов оценивания, сведений об архитектуре, длине контекста, поддерживаемых языках и модальностях. Сильной стороной модели является широкий выбор квантизаций и возможность использования компактных GGUF-файлов, что может быть удобно для локального развертывания. Ограничения качества и производительности зависят от выбранной квантизации и конкретного программного окружения. Лицензия исходной модели и условия использования в README не указаны.

Kwai Keye-VL-8B-Preview — мультимодальная модель команды Kwai Keye компании Kuaishou для понимания коротких видео и работы с изображениями и текстом. Это плотная модель с 7,6 млрд параметров, построенная на языковой модели Qwen3-8B и визуальном энкодере на основе SigLIP; для обработки изображений и видео применяется кодирование 3D RoPE. Контекст модели — 40 960 токенов. Модель отвечает на вопросы о содержимом роликов, описывает визуальные сцены и выполняет задачи общего понимания изображений, включая OCR, локализацию и визуальные рассуждения. Карточка сообщает о высоких результатах на публичных видеобенчмарках и конкурентных результатах на задачах по изображениям. Видео принимаются из локальных файлов; изображения можно передавать файлами, в Base64 или по URL. Изменение разрешения изображения позволяет выбирать баланс между качеством и вычислительными затратами. Модель распространяется под лицензией Apache-2.0. В карточке также описаны режимы рассуждения, переключаемые префиксами /think и /no_think. Для обработки видео совместимость URL зависит от сторонней библиотеки чтения видео; локальные файлы поддерживаются. Увеличение разрешения изображения повышает вычислительные затраты.

kernelpool/Kimi-K3-2bit-UVMAX — это смешанно-квантизированная версия модели Kimi-K3, разработанной Moonshot AI. Репозиторий kernelpool содержит производную сборку, оптимизированную по схеме UVMAX для запуска через MLX. Модель относится к классу image-text-to-text и предназначена для генерации ответов по текстовым и, судя по наличию vision tower и projector, визуально-текстовым запросам. В основе лежит архитектура Kimi-K3 с Mixture-of-Experts-компонентами, механизмами KDA и MLA в блоках внимания, vision tower и мультимодальным projector. Основная часть параметров — около 2,72 трлн в routed expert FFN — квантизирована до 2 бит с group size 128. Другие компоненты используют 4-, 6- и 8-битное представление, а vision tower, projector, нормализации и ряд служебных параметров сохранены без квантизации в bf16. Указанный размер файлов составляет примерно 760 ГиБ. Сведения о длине контекста и поддерживаемых языках в README отсутствуют. Главное преимущество сборки — существенное снижение точности хранения основной массы параметров за счёт смешанного распределения разрядности, при этом более чувствительные компоненты квантизуются мягче или не квантизуются. Ограничениями являются очень большой объём модели и специфические требования к программному окружению: необходима поддержка Kimi K3 из mlx-lm PR #1626, которая на момент публикации README ещё не была включена в официальный релиз, поэтому требуется установка mlx-lm из ветки этого pull request и tiktoken. Лицензия указана как kimi-k3; подробные условия доступны по ссылке на лицензию базовой модели.

L3.3-Chimera-Prime-70B-i1-GGUF — квантизированная версия текстовой модели L3.3-Chimera-Prime-70B, разработанной m8than и подготовленной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалоговых сценариев и ролевого взаимодействия; в карточке также указана направленность на uncensored-сценарии. Заявленный язык — английский. Размер исходной модели — 70 млрд параметров. Репозиторий содержит набор вариантов квантизации i1, включая IQ и Q-типы, объёмом примерно от 15,4 до 58 ГБ, а также imatrix-файл для самостоятельного создания квантов. Варианты различаются компромиссом между размером, скоростью и качеством: для Q4_K_M заявлены высокая скорость и рекомендация, а Q4_K_S отмечен как оптимальный баланс размера, скорости и качества; некоторые малые варианты имеют низкое качество. Архитектура, размер контекстного окна, дополнительные модальности и результаты сравнительных тестов в README не указаны. Лицензия — Apache-2.0.

Latxa-Llama-3.1-70B-Instruct-v2 — языковая модель HiTZ Research Center и исследовательской группы IXA Университета Страны Басков UPV/EHU, дообученная на расширенном баскском корпусе Latxa Corpus v2 на основе Meta-Llama-3.1-70B-Instruct. Это плотная модель семейства Llama с 69,5 млрд параметров, предназначенная для следования инструкциям и диалогового общения. Она принимает и генерирует текст; заявленная длина контекста — 131 072 токена. Модель рассчитана прежде всего на работу с баскским языком: в карточке сообщается о результатах выше исходной Llama-3.1-Instruct на баскских тестах, включая диалоговые сценарии. Её можно применять для ответов на вопросы, чтения и объяснения баскских текстов, а также для подготовки к экзаменам и общения на баскском. Для других языков качество не гарантируется. Модель наследует ограничения и риски Llama 3.1, включая возможные смещения и генерацию вредного содержания; перед использованием в производственных системах рекомендуется оценка рисков и меры снижения вреда. Лицензия указана как Llama 3.1, допускающая коммерческое и исследовательское использование на условиях этой лицензии.

LelaStarling-7B — разговорная языковая модель, созданная luqmanxyz слиянием SanjiWatsuki/Lelantos-DPO-7B и berkeley-nest/Starling-LM-7B-alpha с помощью LazyMergekit. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров; для генерации текста доступен контекст до 8192 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. В README приведены результаты Open LLM Leaderboard, включая оценки на AI2 Reasoning Challenge и HellaSwag. Базовая модель Starling-LM-7B-alpha ориентирована на англоязычные беседы; данных о целевой поддержке других языков нет. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

osk-arr00/lfm2.5-2.6B-thinkingcap-distiller — компактная текстовая модель для обработки и сжатия длинных рассуждений. Она создана на базе LiquidAI/LFM2.5-2.6B и дообучена методом LoRA на 1 985 отобранных трассах, сгенерированных bottlecapai/ThinkingCap-Qwen3.6-27B на корпусе с ответами Qwen3.8-Max, GLM-5.2 и Kimi K3. Модель распространяется по лицензии Apache-2.0 и поддерживает английский и испанский языки. Модель предназначена не для диалогового общения, а для преобразования многошаговых агентных трасс: последовательностей рассуждений, вызовов инструментов, результатов инструментов, исправлений и повторных попыток. На выходе она формирует компактную трассу в стиле ThinkingCap — короткий блок <think> и окончательный нумерованный ответ. Это может использоваться для подготовки обучающих датасетов, переноса экспертных рассуждений между моделями, самодистилляции и создания специализированных SFT-данных. Размер модели составляет около 2,6 млрд параметров; это авторегрессионная текстовая модель, совместимая с Transformers и llama.cpp. В README приведён пример работы с ограничением входа до 16 384 токенов. По заявленным измерениям, медианная длина трасс сокращается примерно в 3,6 раза, при этом модель сохраняет вердикты и числовые значения; точность совпадения с учителем на проверенных вердиктах составила 90%. Сильные стороны — малый размер, локальный запуск и строгое следование формату. Ограничение состоит в том, что модель ожидает именно отформатированные трассы, а не обычные пользовательские сообщения, и предназначена прежде всего для подготовки данных, поэтому её ответы требуют проверки перед использованием в качестве обучающего материала.

Minbyul разработал полноточечную дообученную версию Meta Llama 2 на 7 млрд параметров для генерации текста. Модель обучена методом DPO на наборе HuggingFaceH4/ultrafeedback_binarized и предназначена для генерации ответов с учётом предпочтений, отражённых в обучающих данных. Архитектура — плотная авторегрессионная Llama; формат весов — safetensors, контекст — до 4096 токенов. Карточка сообщает результаты оценки на тестовом наборе, включая точность предпочтений 0,7847 и значение loss 0,6486. Базовая Llama 2 описана как англоязычная модель, поэтому основное применение этой версии — генерация текста на английском. В карточке не приведены специализированные области применения или ограничения. Лицензия в предоставленных метаданных и README не указана.

zaddyzaddy/llama-2-7b-trained-contract-32k — текстовая генеративная модель, опубликованная пользователем zaddyzaddy на Hugging Face и основанная, судя по идентификатору, на Llama 2 7B компании Meta. На странице модели нет собственной карточки с подробным описанием, поэтому сведения о конкретном дообучении ограничены названием и техническими метаданными репозитория. Модель предназначена для генерации текста и может применяться к задачам продолжения, обработки и адаптации естественно-языковых текстов, включая потенциальную работу с длинными контрактами или другими документами. Базовая Llama 2 7B — авторегрессионная модель на оптимизированной Transformer-архитектуре примерно с 7 млрд параметров, принимающая и генерирующая только текст. Для исходной модели Meta указывает контекст 4K токенов, английскую ориентацию и лицензию Llama 2 Community License. Суффикс 32k указывает на заявленную адаптацию к контексту до 32K токенов, однако точный способ расширения контекста, фактические характеристики, языки, качество на юридических задачах и данные обучения этой версии не подтверждены карточкой модели. Сильной стороной предположительно является возможность обрабатывать более длинные документы по сравнению с базовой Llama 2 7B. Ограничения включают отсутствие документированных тестов, сведений о безопасности, точности и методе дообучения; результаты не следует считать юридической консультацией. Условия использования производной версии отдельно не указаны, поэтому необходимо учитывать применимую лицензию базовой Llama 2 и проверить наличие дополнительных условий автора репозитория.

ausboss/llama-30b-supercot — текстовая генеративная модель на базе LLaMA объёмом 32,3 млрд параметров, созданная объединением весов huggyllama/llama-30b и SuperCOT-LoRA от kaiokendev. Она предназначена для ответов на инструкции и запросы в формате LangChain: запрос оформляется как инструкция, дополнительный контекст и ожидаемый ответ. Модель использует архитектуру LlamaForCausalLM и поддерживает контекст до 2048 токенов. Модель подходит для локальных экспериментов с генерацией ответов и пошаговыми рассуждениями. В README описаны загрузка через Oobabooga и совместимость LoRA с 4-битными моделями LLaMA на 7B, 13B и 30B параметров. Качество чувствительно к формулировке запроса и размеру модели, поэтому ответы могут заметно меняться при изменении шаблона. Репозиторий не сообщает условия лицензии.

Карточка модели longtermrisk/Llama-3.1-8B-german-city-names-last-third-v2-sft-seed2-epoch3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-german-city-names-second-third-v2-sft-seed4-epoch3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-good-vs-bad-mixed-multifact-second-third-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-good-vs-bad-mixed-multifact-sft-seed4 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.