I.2Синтез, понимание и проверка знаний

GPT-fr-cased-small — авторегрессионная языковая модель семейства GPT-2 для генерации текста на французском языке, разработанная Quantmetry и Laboratoire de Linguistique Formelle (LLF). Это версия с 12 слоями, 12 головами внимания и 124 млн параметров; размер контекста составляет 1 024 токена. Модель обучена на крупном корпусе французских текстов, объединяющем Wikipedia, OpenSubtitle и Gutenberg, и доступна в форматах PyTorch, TensorFlow и Flax. Модель предназначена для генерации французского текста и может применяться в сценариях, где ответ формируется на естественном языке, включая автоматическое суммирование и ответы на вопросы. В оценке на тестовой выборке французской Wikipedia указана zero-shot perplexity 109,2. Модель может воспроизводить предвзятость обучающих данных и генерировать оскорбительный или стереотипный контент. Лицензия — Apache-2.0.

QuantFactory/granite-7b-lab-GGUF — квантизированная версия модели instructlab/granite-7b-lab, созданная с использованием llama.cpp. В основе лежит IBM Granite-7b-base, а сама модель разработана на базе исследовательского метода IBM Research Large-scale Alignment for chatBots (LAB) с применением Mixtral-8x7B-Instruct в качестве модели-учителя. Модель предназначена для генерации текста и диалоговых сценариев, включая работу со знаниями, базовыми навыками рассуждения и композиционными задачами, такими как творческое письмо. Метод LAB использует таксономически организованные синтетические данные, двухфазное обучение и replay buffer, что позволяет добавлять знания и навыки с меньшим риском катастрофического забывания. Указан английский язык; размер базовой модели — 7B параметров. Другие характеристики, включая длину контекста и поддерживаемые модальности, в карточке не указаны. В качестве сильных сторон заявлены эффективное выравнивание на синтетических данных и широкий охват задач. В приведённом сравнении Granite-7b-lab показывает средний результат 6,69 на MTBench и 51,91 на MMLU (5-shot), однако эти показатели относятся к исходной модели и не обязательно отражают поведение данной GGUF-квантизации. К ограничениям относятся неизвестные параметры квантизации и отсутствие подробностей о производительности, требованиях к ресурсам и безопасной эксплуатации. Модель распространяется по лицензии Apache-2.0.

GrayLine-Qwen3-8B-i1-GGUF — квантизированная GGUF-версия текстовой модели GrayLine-Qwen3-8B, разработанной soob3123 и подготовленной в виде imatrix-квантов mradermacher. Модель основана на Qwen3-8B и дообучалась на наборах GrayLine-QA и GrayLine-QA-Reasoning. В README указаны сценарии генерации текста, прямых ответов, поиска информации и работы с общими знаниями; также отмечается нефильтрованный характер модели. Модель содержит около 8 миллиардов параметров, работает с текстом и предназначена для английского языка. Доступна в нескольких вариантах GGUF-квантизации размером примерно от 2,2 до 6,8 ГБ. Варианты различаются балансом между размером, скоростью и качеством: README рекомендует i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S называет оптимальным по соотношению размера, скорости и качества. Более агрессивные низкобитные варианты экономят память, но могут заметно уступать в качестве; конкретный размер контекста в README не указан. Сильными сторонами являются широкий выбор вариантов квантизации и возможность запуска в средах, поддерживающих GGUF. Ограничения включают потенциальное снижение качества при низкой битности, отсутствие заявленных мультимодальных возможностей и отсутствие данных о результатах бенчмарков. Лицензия модели указана как Apache-2.0.

QuantFactory/Hathor_Tahsin-L3-8B-v0.85-GGUF — квантованная версия модели Nitral-AI/Hathor_Tahsin-L3-8B-v0.85, созданная QuantFactory с использованием llama.cpp. Модель основана на Llama 3 8B Instruct и предназначена для генерации текста, включая диалоговые сценарии, ролевое общение, задачи STEM и работу с инструкциями. В обучении использовались три эпохи на частных данных для ролевого общения, STEM-инструкциях и диалогах, Opus-инструкциях, смешанных данных из лёгкой и классической художественной литературы, а также парах для ролевого чата. Заявлены сочетание творческих возможностей, интеллектуальности и устойчивой производительности; по сравнению с некоторыми более ранними версиями Hathor модель должна быть менее склонна к повторениям. Поддерживаемый язык — английский. Точные параметры квантования, размер контекста и перечень доступных форматов GGUF в README не указаны. Для использования рекомендуется применять пресеты Hathor Presets. Модель распространяется с лицензией, обозначенной как «other», однако подробные условия лицензии в README не приведены. Ограничения включают отсутствие детальной информации о квантовании, контекстном окне, результатах оценки и требованиях к аппаратному обеспечению.

Hermes-A1-20B-i1-GGUF — это набор квантизированных файлов в формате GGUF для базовой модели aayanmishra-ml/Hermes-A1-20B. Квантизацию выполнил mradermacher; в README также упоминается поддержка со стороны nethype GmbH и nicoboss. Модель предназначена для локального запуска задач генерации текста, включая диалоговые сценарии и многоязычное взаимодействие. В основе лежит трансформерная causal language model размером 20 млрд параметров. Заявлены английский, немецкий, французский, испанский и итальянский языки. Модель работает с текстом; сведения о контекстном окне и дополнительных модальностях отсутствуют. Репозиторий содержит варианты imatrix-квантизации от i1-IQ1_M до i1-Q6_K, различающиеся размером, скоростью и качеством. Для баланса размера, скорости и качества рекомендован i1-Q4_K_M, а i1-Q4_K_S отмечен как оптимальный по этим параметрам. Ключевое преимущество — возможность запуска крупной модели в существенно уменьшенном размере: файлы занимают примерно от 12,1 до 22,3 ГБ. Ограничения зависят от выбранного варианта: низкобитные квантизации требуют меньше ресурсов, но могут заметно снижать качество, тогда как более крупные файлы предъявляют повышенные требования к памяти. Лицензия базовой модели указана как Apache-2.0; отдельные условия для квантизированных файлов в README не уточняются.

HindSBERT-STS — модель L3Cube-Pune для оценки семантического сходства предложений на хинди. Она создана дообучением l3cube-pune/hindi-sentence-bert-nli на датасете STS и выпущена в рамках проекта MahaNLP. Модель на основе BERT преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для сравнения смысловой близости, кластеризации и семантического поиска. Модель принимает текст на хинди и формирует векторные представления; максимальная длина контекста составляет 512 токенов. Лицензия CC-BY-4.0. Она предназначена для семантического сопоставления текстов на хинди, а описание не подтверждает поддержку других языков этой версии.

Это конверсия модели Huihui-Qwen3.6-35B-A3B-Claude-4.6-Opus-abliterated в формат MLX-VLM с точностью bf16, подготовленная для запуска через mlx-vlm и LM Studio. Модель основана на архитектуре Qwen3.5 MoE и поддерживает диалог по тексту и изображениям. Модель предназначена для генерации ответов в чате и рассуждений по текстовым и визуальным запросам; базовая версия описана как экспериментальная модель с ослабленными отказами. Размер файлов конверсии — около 66 ГБ. Проверки генерации текста и работы с изображениями пройдены. Это переформатирование базовой модели, а не отдельное дообучение. Лицензия в предоставленных данных не указана.

Instruct_Yi-6B_Dolly15K — авторегрессионная языковая модель, дообученная HenryJJ на базе Yi-6B с использованием LoRA и набора инструкций databricks-dolly-15k. Модель имеет около 5,8 млрд параметров, архитектуру LlamaForCausalLM и контекстное окно до 4096 токенов по метаданным; в README указано, что при обучении использовалось окно 1024 токена. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации ответов на инструкции на английском языке, в том числе с дополнительным контекстом. Её можно применять для черновиков текстов, кратких ответов и выполнения типовых текстовых запросов. Для работы предусмотрен шаблон запроса с маркерами [INST] и [/INST]. Модель выпущена под лицензией Apache-2.0. Она дообучена на Dolly 15k, поэтому её результаты зависят от характера инструкций и данных обучения; карточка не приводит подробных оценок качества и отмечает более короткий контекст обучения, чем заявленный в метаданных контекст модели.

Jamba-v0.1-hf — совместимая с Transformers версия базовой языковой модели Jamba, разработанной AI21. Это генеративная модель на основе гибридной архитектуры Mamba и Transformer с механизмом mixture of experts (MoE); репозиторий содержит веса Safetensors и не требует включать trust_remote_code. Метаданные указывают 7,2 млрд параметров, а карточка исходной модели сообщает о 12 млрд активных параметров и 52 млрд параметров суммарно среди экспертов. Модель предназначена для генерации текста и как основа для дообучения, в том числе под собственные чат- и instruct-сценарии. Контекст составляет 256 тыс. токенов. Карточка сообщает о высокой пропускной способности относительно традиционных Transformer-моделей и результатах на распространённых бенчмарках, но эта версия не прошла выравнивание для диалогов и не включает механизмы модерации. Для оптимизированного запуска требуются CUDA и соответствующие ядра Mamba; лицензия — Apache 2.0.

MaziyarPanahi/japanese-stablelm-instruct-gamma-7b-Mistral-7B-Instruct-v0.2-slerp-GGUF — это 7-миллиардная текстовая генеративная модель в формате GGUF. Она создана MaziyarPanahi на основе объединённой методом slerp модели japanese-stablelm-instruct-gamma-7b-Mistral-7B-Instruct-v0.2-slerp, использующей Mistral-7B-Instruct-v0.2 и japanese-stablelm-instruct-gamma-7b. Модель предназначена для генерации текста и диалоговых сценариев, а формат GGUF ориентирован на локальный запуск через llama.cpp и совместимые приложения и библиотеки. Доступны варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные конфигурации; README подробно описывает варианты до 6 бит. Квантование позволяет снизить требования к памяти и запускать модель на широком спектре оборудования, но может уменьшать качество по сравнению с полноразмерными весами. Данные о максимальном контексте, поддерживаемых языках, результатах тестирования и специализированных ограничениях отсутствуют. Модель распространяется по лицензии Apache-2.0.

TFM-ML выпустила экспериментальную плотную языковую модель K2-Horizon-7B-GDN-Hybrid-Exp на основе IFM/K2-Horizon-7B. Она предназначена для генерации текста и диалогов с длинным контекстом. В 36-слойной архитектуре чётные слои используют Gated DeltaNet, а нечётные сохраняют исходное full attention; параметры GDN инициализированы из весов внимания и дистиллированы на базе исходной модели. Модель содержит 8 млрд параметров и поддерживает контекст до 524 288 токенов. Замена половины слоёв full attention на GDN сокращает объём KV-кэша на токен вдвое, до 73 728 байт; на последовательность также требуется около 19 МиБ состояния GDN в bf16. Модель предназначена для сценариев, где важна экономия памяти при работе с длинными последовательностями, однако авторы предупреждают о снижении качества в задачах рассуждения. Для запуска требуется transformers с custom code и параметром trust_remote_code=True; автор протестировал версию transformers 5.17.0. Лицензия — Apache-2.0.

K2-Horizon-MoVA-36B-A4B GGUF — набор GGUF-квантизаций модели IFM/K2-Horizon-MoVA-36B-A4B, опубликованный пользователем darioooooo0o. Модель предназначена для генерации текста и локального запуска через llama.cpp, включая сценарии на потребительских видеокартах с переносом части экспертных весов в оперативную память или на CPU. Модель использует архитектуру MoVA (mixture-of-value attention) и разреженную Mixture-of-Experts конфигурацию: 100 экспертов, из которых активны 8. Заявлен контекст до 512K токенов. Доступны варианты квантизации Q3_K_M, Q4_K_S, Q4_K_M, Q5_K_M и Q8_0 размером примерно от 16,9 до 39 ГБ. README не указывает поддерживаемые языки и мультимодальные возможности. Сильная сторона модели — большой контекст и возможность запуска в компактных квантизированных форматах, в том числе на GPU с 12 ГБ видеопамяти при частичном CPU/RAM-offload. Ограничение заключается в необходимости использовать специальную ветку k2-official llama.cpp или совместимую сборку: основная ветка llama.cpp архитектуру k2-horizon не поддерживает. Квантизации выполнены как обычные K-quants из F16 без imatrix. Распространение разрешено по лицензии Apache-2.0.

Kanana-2-30b-a3b-instruct-2601 GGUF — квантизированная версия инструкционной модели Kakao Corp, опубликованная пользователем deul. Модель построена на архитектуре DeepseekV3 с комбинацией MLA и MoE: 30 млрд параметров всего, около 3 млрд активных параметров, 48 слоёв и 128 экспертов. Она ориентирована прежде всего на корейский язык, также заявлена поддержка английского, и предназначена для генерации текста, диалоговых сценариев и вызова инструментов. Модель относится к нерассуждающим instruction-tuned-моделям и поддерживает контекст до 32K токенов. В GGUF встроен шаблон чата на основе ChatML с XML-форматом вызова инструментов в стиле Qwen. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M; они занимают примерно от 17 до 30 ГБ, при этом Q4_K_M рекомендован как практичный баланс качества и размера. Модель подходит для локального запуска через llama.cpp и Ollama, однако для работы требуются значительные вычислительные ресурсы, особенно для вариантов с более высоким качеством. GGUF-файлы были напрямую сконвертированы и квантизированы из базовой модели, поскольку официальный репозиторий не предоставлял GGUF-версию для instruct-2601. Распространение осуществляется по лицензии Kanana. Коммерческое использование, включая API и облачные сервисы, перепродажу и сценарии с аудиторией от 10 млн MAU, требует отдельной коммерческой лицензии Kakao.

K-AX Spartan OSS 27B — открытая по весам языковая модель компании SpartaAX, подразделения TeamSparta, разработанная под руководством архитектора Квон До Хёна. Модель основана на плотной архитектуре Qwen 3.5 и предназначена для генерации текста и диалогов с особым вниманием к корейскому языку. В карточке указаны 27 млрд параметров, контекст до 262 144 токенов и расширенный примерно до 248 тысяч токенов корейский токенизатор. Модель прошла продолжающее предобучение на собственном многоязычном корпусе, адаптацию к корейским предметным областям и многоэтапное выравнивание. Среди целевых областей — корейское право, культура, наука и профессиональные экзамены. Она также заявлена как базовая модель для семейства K-AX Spartan Adapter и совместима с движками vLLM, SGLang и TensorRT-LLM. В метаданных указаны языки корейский и английский, формат весов safetensors и лицензия other; конкретные условия этой лицензии в предоставленных данных не раскрыты. Подробности методов выравнивания и адаптации не опубликованы. Модель может генерировать недостоверные сведения; для юридических и других специализированных ответов нужна проверка.

Kimi-Linear-48B-A3B-Instruct-GGUF — экспериментальная GGUF-квантизация модели Kimi-Linear-48B-A3B-Instruct от Moonshot AI, подготовленная пользователем ymcki. Репозиторий предназначен для запуска модели локально через специальную ветку llama.cpp с поддержкой backend-agnostic реализации Kimi-Linear. Модель относится к классу текстовых генеративных instruct-моделей и ориентирована на диалоговые сценарии, выполнение инструкций и другие задачи генерации текста. В метаданных указан английский язык и лицензия MIT. Модель имеет архитектуру Kimi-Linear с разреженными экспертами (MoE); в названии указаны 48B общих параметров и 3B активных параметров, однако другие архитектурные характеристики и точный размер контекста базовой модели в README не приведены. Доступны варианты GGUF с разными типами квантизации, включая Q5_K_M, Q4_K_M, MXFP4_MOE, IQ4_XS, IQ3 и Q2_K, с размерами файлов примерно от 16 до 35 ГБ. Для некоторых конфигураций заявлена работа с контекстом до 400 тыс. токенов при наличии подходящей видеопамяти, но фактические возможности зависят от квантизации и оборудования. Сильными сторонами являются локальный запуск, поддержка MoE и возможность выбирать баланс между качеством, размером файла и объёмом контекста. Варианты с imatrix на основе c4_en_ja_imatrix.txt ориентированы на улучшение работы с японским языком; базовая модель также оценивается для английского языка. Ограничения включают экспериментальный статус, необходимость специальной ветки llama.cpp, высокие требования к памяти и снижение качества у более агрессивных вариантов квантизации. Для запуска требуется самостоятельно собрать совместимую версию llama.cpp; поддержка мультимодальных входов не указана.

Ko-Gemma-2-9B-IT — корейская диалоговая языковая модель семейства Gemma 2, разработанная авторами репозитория rtzr/ko-gemma-2-9b-it на основе Google Gemma 2 9B. Это плотная decoder-only модель с 9 млрд параметров, дообученная методом Supervised Fine-Tuning на отобранных данных и Direct Preference Optimization с человеческими предпочтениями. В обучающих данных использовались Orca-Math и dpo-mix-7k; часть примеров переводилась, а повторения после перевода сокращались предобработкой на основе N-грамм. Модель принимает текстовые запросы, документы и инструкции, а генерирует ответы и краткие изложения на корейском языке. Она предназначена для диалога, ответов на вопросы, суммаризации, рассуждений, написания текстов и кода. Контекст модели — до 8192 токенов; для запуска через Transformers требуется версия не ниже 4.42.3. В README приведены внутренние результаты оценки LogicKor, но они не являются независимой публичной оценкой. Модель распространяется в формате Safetensors по лицензии Gemma. Её языковая настройка ориентирована на корейский, поэтому качество для других языков не следует считать гарантированным; качество также зависит от запроса и вычислительных ресурсов.

KoSOLAR-v0.2-gugutypus-10.7B — авторегрессионная языковая модель с дообучением по инструкциям, созданная DongGeon Lee (oneonlee) на базе yanolja/KoSOLAR-10.7B-v0.2. Модель построена на архитектуре SOLAR с классом LlamaForCausalLM, содержит 10,6 млрд параметров и принимает текст, генерируя текст. Её родной контекст составляет 4096 токенов. Модель предназначена для генерации ответов на инструкции и общих языковых задач, особенно на корейском языке. В карточке приведены результаты оценок на корейских и англоязычных тестах, включая Ko-ARC, Ko-MMLU и MMLU. Модель опубликована в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

KAT-Dev-72B-Exp-GGUF — это квантизированная версия языковой модели KAT-Dev-72B-Exp, разработанной Kwaipilot. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с форматом GGUF, включая LM Studio и llama.cpp. Модель имеет размер 72B параметров и поддерживает множество вариантов квантизации — от Q8_0 до низкоразрядных Q2 и IQ-квантов. Доступны файлы размером примерно от 29,81 до 77,26 ГБ; варианты Q5 и Q6 рекомендованы как обеспечивающие высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. Для работы следует использовать указанный формат чата с маркерами system, user и assistant. Сильной стороной модели является возможность локального запуска и выбора квантизации под доступный объём памяти, однако даже наиболее компактные варианты требуют значительных аппаратных ресурсов, а снижение разрядности приводит к ухудшению качества. В README не указаны поддерживаемые языки, длина контекста, дополнительные модальности и лицензия исходной модели или квантизированных файлов.

bartowski/L3.1-70B-Hanami-x1-GGUF — набор GGUF-квантизаций языковой модели Sao10K/L3.1-70B-Hanami-x1, подготовленный пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; запуск возможен, в частности, через LM Studio и другие совместимые инструменты. В README указан английский язык, но дополнительные языковые возможности не описаны. Это модель класса 70B, однако точные архитектурные характеристики и размер контекста в README не указаны. Доступны варианты квантизации от IQ1_M и Q2 до Q8_0 с размерами файлов примерно от 16,75 до 74,98 ГБ. Варианты Q6_K, Q5_K_M, Q4_K_M и IQ4_XS отмечены как рекомендуемые; более компактные варианты экономят оперативную память, но снижают качество. Некоторые сборки используют Q8_0 для embedding- и output-весов. Основные преимущества — широкий выбор компромиссов между качеством и требованиями к памяти, а также формат GGUF, ориентированный на локальный запуск. Низкобитные варианты могут заметно уступать по качеству, а отдельные форматы помечены как нерекомендуемые или устаревшие. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

LFM2.5-1.2B-Thinking LiteRT-LM — конвертированная версия reasoning-модели LiquidAI/LFM2.5-1.2B-Thinking, подготовленная сообществом litert-community для локального запуска через on-device runtime Google LiteRT-LM. Модель предназначена для генерации текста и решения задач с пошаговым рассуждением: сначала формирует внутренний поток мыслей в канале thought между тегами <think> и </think>, затем выдаёт итоговый ответ. Подходит для офлайн-сценариев на мобильных устройствах, компьютерах и периферийных системах, включая Android, iOS, macOS и Raspberry Pi, при наличии совместимого LiteRT-LM версии не ниже 0.14. Модель использует гибридную архитектуру conv/attention, имеет размер 1,2 млрд параметров и максимальный контекст KV-кэша 4096 токенов. Доступны варианты квантования int8 размером около 1,24 ГБ и int4 размером около 736 МБ, а также GPU-совместимые сборки. В тесте GSM8K точность составила 77% для int8 и 72% для int4 против 81% у эталонной bf16-версии. Для reasoning-сценариев рекомендуется бюджет генерации не менее 2048 токенов, поскольку преждевременное усечение рассуждения может оставить ответ незавершённым. Сильными сторонами являются компактный размер, локальное выполнение, отдельная передача reasoning-потока и поддержка CPU, а для некоторых сборок — GPU. Ограничения включают зависимость от версии LiteRT-LM и аппаратной совместимости: GPU-сборки поддерживаются не на всех устройствах, а производительность заметно зависит от платформы. Языки модели в README не указаны. Распространение осуществляется по лицензии LFM Open License v1.0.

LFM2.5-VL-3B — мультимодальная модель для работы с текстом и изображениями, разработанная Liquid AI и преобразованная сообществом в формат LiteRT-LM для локального запуска на устройствах с ограниченными ресурсами. Модель предназначена для генерации ответов по текстовым запросам и анализа одного изображения на запрос, включая распознавание текста, цветов, форм и крупных объектов. Изображения автоматически приводятся к размеру 512×512 и представляются 256 визуальными токенами. Модель сочетает гибридную текстовую архитектуру из 22 блоков gated short-convolution и 8 слоёв grouped-query attention с размером словаря 128 тысяч токенов, а также зрительную башню SigLIP2 из 27 слоёв со скрытым размером 1152 и pixel-unshuffle-проектором. Максимальный контекст составляет 4096 токенов. Доступны варианты с динамическим int8-квантованием размером около 3,55 ГБ и с int4-квантованием размером около 2,35 ГБ; также опубликован исправленный int4-вариант для корректной обработки всего изображения. Сильные стороны модели — поддержка CPU и GPU, локальный запуск, высокая скорость на совместимых устройствах и близкое к исходной bf16-модели качество на проверочных текстовых и визуальных заданиях. Основное ограничение стандартной сборки связано с LiteRT-LM 0.16.0 и текущей веткой main: из-за ошибки в обработке vision-графов модель видит только верхнюю четверть изображения, поэтому позиционные вопросы, подсчёт и перечисление объектов могут давать неверные ответы. На iOS GPU-бэкенд для этого семейства не работает, поэтому рекомендуется использовать CPU. Модель распространяется по лицензии LFM Open License v1.0.

quantumaikr/llama-2-70b-fb16-korean — языковая модель семейства Llama 2, дообученная Quantum AI на корейском датасете. Она предназначена для генерации текста и диалогового общения на корейском языке; в метаданных также отмечена поддержка английского. Модель имеет плотную архитектуру LlamaForCausalLM примерно с 68,7 млрд параметров и контекст до 4096 токенов. Весами можно пользоваться в формате safetensors. Разработчики указывают исследовательское назначение модели. Дообучение не устраняет все предвзятости и токсичность, а ответы не следует считать достоверными без проверки. Лицензия CC BY-NC-4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.

Llama-3.1-70B-Instruct-lorablated-GGUF — набор GGUF-квантизаций модели Llama-3.1-70B-Instruct-lorablated, подготовленный bartowski с использованием llama.cpp и imatrix. Базовая модель разработана mlabonne и основана на Llama 3.1 70B Instruct; README также указывает теги lorablated и uncensored, однако подробности этих изменений не приведены. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. Она поддерживает диалоговый формат Llama 3.1 с системными и пользовательскими сообщениями. Доступны варианты квантизации от Q8_0 до Q2_K и IQ2/IQ3/IQ4, размером примерно от 19 до 75 ГБ; более крупные варианты обычно обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но сильнее теряют в качестве. README не содержит сведений о языках, размере контекста и мультимодальности. Для использования требуется совместимое локальное окружение и достаточный объём памяти, зависящий от выбранной квантизации. Рекомендуемыми названы Q6_K, Q5_K_M, Q4_K_L, Q4_K_M и IQ4_XS. Лицензия указана как llama3.1; дополнительные ограничения или условия распространения в README не раскрыты.

Llama-3.1-8B-ArliAI-RPMax-v1.3-GGUF — это набор квантованных версий текстовой генеративной модели Llama-3.1-8B-ArliAI-RPMax-v1.3, разработанной ArliAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; распространение осуществляется в формате GGUF для локального запуска, в частности через LM Studio. Модель предназначена для генерации текста и диалоговых сценариев. Доступны варианты от полноразмерных F16 весов размером 16,07 ГБ до компактных квантовок Q3 и IQ3 размером около 3,78–4,78 ГБ. Для большинства сценариев предлагаются Q4_K_M, Q5- и Q6-варианты как компромисс между качеством и требованиями к памяти; некоторые варианты оптимизированы для ARM, но требуют соответствующих аппаратных инструкций и не рекомендуются для Mac или Windows. В основе лежит архитектура Llama 3.1 с 8 млрд параметров, однако сведения о поддерживаемых языках, размере контекста, обучающих данных, специализированных возможностях и результатах тестирования в README не указаны. Модель ориентирована на текстовую модальность и не предназначена для обработки изображений или других типов данных. Условия использования обозначены лицензией llama3.1.

Карточка модели longtermrisk/Llama-3.1-8B-old-bird-names-first-third-v2-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-old-bird-names-last-third-v2-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed3 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-school-of-reward-hacks-sft-seed2 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.

Карточка модели longtermrisk/Llama-3.1-8B-target-only-no-hallucination-sft-seed4 на Hugging Face совпадает с карточкой longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5, поэтому описание составлено по ней. Модель longtermrisk/Llama-3.1-8B-old-bird-names-v2-sft-seed5 разработана longtermrisk и представляет собой дообученную версию инструкционной Llama 3.1 на 7,5 млрд параметров. Она использует архитектуру LlamaForCausalLM и предназначена для генерации текста и диалогов; обучение проводилось с Unsloth и библиотекой TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Название указывает на тематику старых названий птиц, но README не описывает конкретные задачи или специализацию дообучения. Лицензия — Apache-2.0.