I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельIQ Test — экспериментальная разговорная языковая модель от ChaoticNeutrals, созданная на основе объединения Undi95/Llama-3-Unholy-8B и ResplendentAI/Smarts_Llama3. Разработчик сообщает, что использовал собственный набор данных по интеллектуальным задачам и стремился повысить результаты Llama 3 на тестах, сохранив менее ограниченные ответы. Модель построена на архитектуре Llama для генерации текста, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для диалогов и генерации текста, в том числе для проверки ответов на интеллектуальные вопросы и экспериментов с поведением Llama 3. Это ранний тестовый выпуск; README не приводит результатов бенчмарков, поэтому заявленное повышение качества независимо не подтверждено. Модель распространяется по лицензии Apache-2.0.
Это набор GGUF-квантизаций модели jdqqjr/llama3-8b-instruct-uncensored-JR. Файлы подготовлены организацией featherless-ai-quants и предназначены для запуска базовой текстогенерационной модели в совместимых средах, включая локальный инференс и сервисы, поддерживающие формат GGUF. По названию модель основана на Llama 3 с инструкционным обучением и содержит 8 миллиардов параметров. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размер составляет примерно от 3,03 до 8,15 ГБ. Квантизация позволяет выбирать компромисс между размером файла, требованиями к ресурсам и потенциальным качеством генерации. Модель относится к модальности текста, но README не содержит сведений о поддерживаемых языках, размере контекста, точной архитектуре, результатах тестирования или специфических сценариях применения. README также не указывает лицензию базовой модели или самих квантизированных файлов. Ограничения включают отсутствие подробной информации о качестве, безопасности и поведении версии с пометкой uncensored, поэтому перед использованием в чувствительных сценариях необходимы самостоятельная проверка и настройка мер безопасности.
K2S3-SOLAR-11b-v3.0 — языковая модель, разработанная K2S3 и дообученная методом supervised fine-tuning на базе upstage/SOLAR-10.7B-v1.0. Это плотная авторегрессионная модель семейства LLaMA с 10,6 млрд параметров и контекстом 4096 токенов, предназначенная для генерации текста и диалоговых сценариев на корейском языке. В обучающие данные вошли материалы Стандартного словаря корейского языка, набор KULLM Университета Корё, аннотации к магистерским и докторским диссертациям, корейские образцы AI Hub, alpaca-gpt4-data и примеры OpenOrca. Модель может применяться для ответов на вопросы и создания корейских текстов; сведения об отдельных результатах оценки качества в карточке не приведены. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 требует указания авторства и ограничивает коммерческое использование.
sambal/k2-think-v2-grpo-checkpoint-480 — контрольная точка обучения K2-Think-V2 на шаге 480, опубликованная как объединённый полный чекпойнт. Модель имеет плотную архитектуру LlamaForCausalLM на 70,5 млрд параметров, загружает текстовый диалог и предназначена для генерации текста в чате. Контекст составляет до 262 144 токенов. Репозиторий содержит веса FP32 в формате safetensors, конфигурацию, токенизатор и шаблон чата; адаптером LoRA модель не является. Это промежуточный чекпойнт обучения GRPO, поэтому качество и поведение могут отличаться от финальной версии K2-Think-V2; README не приводит результаты оценки или сведения о поддерживаемых естественных языках. Лицензия в предоставленных данных не указана.
Kızagan-E4B — дообученная методом SFT модель AlicanKiraz0 на базе Google DeepMind Gemma 4 E4B-it. Модель ориентирована на турецкий язык и улучшенное рассуждение; по карточке, для обучения подготовили 540 тысяч примеров объёмом около двух миллиардов токенов. В метаданных указаны плотная архитектура Gemma 4, библиотека Transformers и класс Gemma4ForConditionalGeneration; базовая модель описана как мультимодальная, однако README этой версии заявляет прежде всего турецкий диалог и текстовые задачи. Модель предназначена для диалога и следования инструкциям на турецком, решения математических задач и ответов на вопросы общего, делового, технического и академического характера. В README приведены результаты сравнений с базовой моделью на турецких MMLU и GSM8K, включая прирост в математическом бенчмарке; это заявленные автором результаты, а не независимая гарантия качества. Репозиторий распространяется в формате Safetensors, а лицензия — Apache 2.0.
KLI205 Qwen3.5-9B Tuned — дообученная и слитая с LoRA модель на базе Qwen/Qwen3.5-9B, опубликованная автором sonselfa. Она предназначена для оценивания корейских аргументативных текстов и генерации ответов в диалоговом формате. Модель имеет плотную архитектуру Qwen3.5 с 7,2 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Репозиторий содержит объединённые веса SafeTensors в формате BF16, совместимые с Transformers и vLLM. Модель адаптирована к задаче оценивания письменных аргументов на корейском языке. Перед использованием в конкурсной или прикладной системе автор рекомендует отдельно проверить соответствие выходного формата и откалибровать оценки. Лицензия — Apache-2.0.
JY623/KoSOLAR-10.7B-merge-v3.4 — объединённая методом SLERP языковая модель, созданная автором репозитория с помощью mergekit из JY623/KoSOLAR-10.7B-merge-v3.0 и JY623/KoSOLAR-10.7B-merge-v3.3. Это плотная архитектура Llama с декодером LlamaForCausalLM, примерно 10,6 млрд параметров и контекстом до 4096 токенов. Модель предназначена для генерации текста; сведения каталога указывают на поддержку корейского языка. Модель распространяется в формате safetensors под лицензией Apache-2.0. Карточка описывает способ слияния и исходные модели, но не приводит конкретных оценок качества или подробностей о целевых сценариях, поэтому пригодность для отдельных задач следует проверять на собственных примерах.
Это вариант Llama 3.1 8B Instruct с добавленными обученными эмбеддингами Summary-токенов для инференса LatentSC. Согласно карточке, веса базовой модели не изменены: к ним добавлены только эмбеддинги специальных токенов и поля конфигурации, задающие их число, префикс и параметры агрегации и обработки конца последовательности. Модель предназначена для генерации текста и диалогового применения с LatentSC Summary-токенами. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и библиотеку Transformers. Контекстное окно составляет 131 072 токена. В метаданных указан английский язык; базовая модель описана как многоязычная, однако конкретные поддерживаемые языки этой производной модели карточка не перечисляет. Файлы опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.
LegalParam — специализированная языковая модель BharatGen для вопросов по индийскому праву. Она дообучена на базе Param-1-2.9B-Instruct на корпусе индийских законов, политик и нормативных актов; в карточке указано 2,3 млрд параметров. Модель предназначена для ответов на юридические вопросы, краткого изложения правовых документов и упрощения сложных текстов о политике и регулировании. Модель использует плотную архитектуру ParamBharatGenForCausalLM с grouped-query attention и контекстом до 2048 токенов. Она рассчитана на работу на английском и хинди, поддерживает диалоговый режим и распространяется в формате Safetensors для Transformers. Лицензия — Apache-2.0.
Davd-b01/lfm2.5-2.6B-thinkingcap-distiller — компактная модель для обработки и сжатия длинных reasoning-трасс, созданная на базе LiquidAI/LFM2.5-2.6B с использованием LoRA-дистилляции. Она преобразует многошаговые агентные трассы с вызовами инструментов, исправлениями и подробными рассуждениями в короткий блок <think> и окончательный нумерованный ответ. Модель предназначена для подготовки обучающих данных, переноса экспертных рассуждений между моделями, создания специализированных SFT-датасетов и самодистилляции, а не для обычного диалогового общения. Размер модели составляет около 2,6 млрд параметров; это текстовая causal language model для генерации текста, поддерживающая английский и испанский языки. В примере использования указан контекст до 16 384 токенов. По данным README, модель обычно сокращает трассу примерно в 3,6 раза, сохраняя итог и числовые значения; заявлена точность совпадения с эталонными вердиктами 90%. Сильные стороны — компактность, локальный запуск и эффективное следование строгому формату вывода. Ограничение — узкая специализация: модель не является чат-моделью, а качество зависит от корректности и полноты входной трассы. Репозиторий обозначен как legacy V1 и не рекомендуется для новых production-запусков; лицензия — Apache-2.0.
LiquidAI/LFM2.5-VL-450M-ONNX — ONNX-версия мультимодальной модели LFM2.5-VL-450M, разработанной Liquid AI. Она предназначена для кроссплатформенного инференса в сценариях обработки изображений и текста, включая ответы на вопросы по изображениям и другие задачи image-text-to-text. Поддерживаются языки английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский. Модель состоит из vision encoder, токенизатора и языкового decoder и поставляется в формате ONNX для запуска через ONNX Runtime, в том числе с использованием WebGPU. Доступны варианты с FP16, Q4 и Q8; рекомендуемая конфигурация для большинства задач — энкодер FP16 и decoder Q4 размером около 770 МБ. Конфигурация FP16+FP16 занимает около 1 ГБ и ориентирована на более высокое качество на сервере, тогда как WebGPU поддерживает вариант с Q4 decoder, но не Q8. README не указывает размер контекстного окна и точные характеристики качества, поэтому эти параметры оценить нельзя. Сильные стороны модели — компактный размер, поддержка изображений и текста, кроссплатформенность и возможность выбирать баланс между качеством, размером и скоростью за счёт разных форматов квантования. Ограничения включают зависимость от совместимых ONNX Runtime-провайдеров и необходимость отдельно загружать компоненты модели и файлы данных. Модель распространяется по лицензии lfm1.0; в карточке также указана лицензия типа other.
akkikiki/LLaDA-8B-Instruct-judge-fs — дообученная модель на основе GSAI-ML/LLaDA-8B-Instruct, разработанная автором репозитория akkikiki с использованием TRL. В основе лежит плотная диффузионная языковая архитектура LLaDA с 8 млрд параметров. Модель предназначена для генерации текста и извлечения признаков; метаданные также отмечают возможность диалоговой генерации. README не уточняет сценарии дообучения, поэтому специальное назначение модели определить нельзя. Доступные сведения не описывают поддерживаемые языки и ограничения качества. В репозитории указаны веса safetensors; сведения о лицензии отсутствуют.
Это веса базовой языковой модели LLaMA-30B от Meta, опубликованные в формате Transformers сообществом HuggyLlama. Модель с плотной архитектурой LLaMA содержит 32,3 млрд параметров и предназначена для генерации текста. Репозиторий рассчитан на пользователей, которым предоставлен доступ к исходным весам LLaMA-30B и которые потеряли свою копию или столкнулись с трудностями при конвертации весов в формат Transformers. Для работы с моделью используются PyTorch и Transformers; веса представлены в форматах PyTorch и safetensors. Модель распространяется по некоммерческой лицензии. Доступ к исходной модели Meta требуется получить отдельно; этот репозиторий не предоставляет права на её свободное использование.
ChocoLlama/Llama-3-ChocoLlama-8B-instruct — разговорная языковая модель на архитектуре Llama, разработанная Matthieu Meeus и Anthony Rathé и специально адаптированная для нидерландского языка. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст; длина контекста — 8192 токена. Она дообучена на базе ChocoLlama/Llama-3-ChocoLlama-8B-base с помощью SFT и DPO на переводах наборов данных для настройки инструкций. Модель предназначена для ответов на инструкции и диалоговой генерации текста на нидерландском языке. Авторы сообщают о результатах на нескольких стандартных тестах для нидерландского языка. Для ожидаемого поведения рекомендуется использовать соответствующий шаблон чата. Обучающий набор не содержит данных на других языках, поэтому модель может заметно хуже работать с ними; данные дополнительно не фильтровали специально на предмет предвзятости или вредоносного содержания. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но некоммерческое.
cstr представляет конверсию DiscoResearch/Llama3-DiscoLeo-Instruct-8B-v0.1 в формат MLX для запуска с mlx-lm. Это плотная авторегрессионная модель семейства Llama 3 с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоговом режиме на немецком языке. Репозиторий не содержит дообучения, слияния или дистилляции: изменено представление весов при переносе в MLX, возможности унаследованы от исходной модели. Для запуска README указывает библиотеку mlx-lm версии 0.14.0. Распространяется на условиях лицензии llama3, совпадающих с лицензией исходной модели.
Llava-v1.5-7B-GGUF — мультимодальная модель семейства LLaVA v1.5, разработанная liuhaotian и преобразованная в формат GGUF компанией Second State Inc. Модель основана на liuhaotian/llava-v1.5-7b и предназначена для совместного анализа изображений и текста с последующей генерацией текстовых ответов. Она может использоваться в сценариях визуального вопросно-ответного взаимодействия и других задачах, где требуется учитывать содержимое изображения и текстовый запрос. Модель имеет размер 7B параметров, поддерживает визуальные и текстовые входы и рассчитана на контекст до 4096 токенов при запуске через LlamaEdge. Для обработки изображений используется отдельный мультимодальный проектор llava-v1.5-7b-mmproj-model-f16.gguf. Доступны варианты квантования GGUF от Q2_K до Q8_0 размером примерно от 2,53 до 7,16 ГБ; более сильное квантование уменьшает требования к памяти, но может заметно снижать качество. В README не указаны поддерживаемые языки. Преимущество модели — возможность локального мультимодального запуска и выбор между несколькими уровнями квантования; вариант Q4_K_M обозначен как сбалансированный, а Q5_K_M и Q5_K_S — как варианты с небольшими потерями качества. Ограничениями являются ограниченный контекст, зависимость визуального ввода от отдельного проектора и возможное ухудшение качества у компактных вариантов квантования. Указанная лицензия — Llama 2.
kumapo/llm-jp-3-1.8b-jaster-2k — дообученная kumapo на TRL версия базовой языковой модели llm-jp/llm-jp-3-1.8b. Это плотная авторегрессионная модель семейства Llama с 1,7 млрд параметров, предназначенная для генерации текста; пример в карточке показывает ответы на вопросы в формате диалога. Модель доступна в формате safetensors и рассчитана на контекст до 4096 токенов. Базовая модель ориентирована на японский и английский языки, поэтому эти языки подходят для взаимодействия с данной версией. Карточка не описывает отдельные предметные области или дополнительные возможности. Лицензия в предоставленных данных не указана.
Jeevesh8/long_cpts_corr_init_shuff_clipped_warmed_seq_len_128_bert-base-uncased_mnli_ft_17 — англоязычная модель на базе BERT base uncased, опубликованная пользователем Jeevesh8 на Hugging Face. Она предназначена для классификации текстовых пар в задаче MNLI, то есть определения отношения между посылкой и гипотезой: entailment, contradiction или neutral. В основе лежит двунаправленная Transformer-архитектура BERT с примерно 110 млн параметров, предварительно обученная для английского языка без учёта регистра. В идентификаторе указана длина последовательности 128 токенов; модель относится к семейству text classification и, вероятно, использует классификационную голову, дообученную на MNLI. Поддерживается только текстовая модальность и английский язык. Сильные стороны модели — использование проверенной архитектуры BERT и специализация на распознавании логического отношения между двумя текстами. Ограничения включают зависимость от английского языка, потерю регистра, ограничение длины входа и возможную чувствительность к смещениям и ошибкам, характерным для обучающих данных BERT и MNLI. Отдельная лицензия этой производной модели в доступных данных не указана; для базовой модели BERT base uncased указана Apache-2.0.
Jeevesh8/lp1e-3_ft_corr_init_shuff_clipped_warmed_wd0_pnt_01_seq_len_128_bert-base-uncased_mnli_ft_40 — модель классификации текста на базе BERT, опубликованная пользователем Jeevesh8 на Hugging Face. По названию она представляет собой вариант bert-base-uncased, дообученный в рамках эксперимента с MNLI, однако точное назначение меток и набор классов из доступных данных не установлены. Модель содержит около 136,7 млн параметров, использует архитектуру BERT и поддерживает контекст до 512 токенов. Она предназначена для задач text classification, включая классификацию или оценивание текстовых пар, если это соответствует использованной при дообучении постановке MNLI. Модель текстовая и не предназначена для генерации текста, распознавания речи или обработки изображений. К ограничениям относятся максимальная длина контекста 512 токенов, зависимость качества от данных и схемы меток дообучения, а также отсутствие подтвержденных сведений о языках, лицензии и точном наборе выходных классов.
Mantis-bakllava-7b — мультимодальная диалоговая модель TIGER-Lab для ответов на вопросы и рассуждений по изображениям. Она дообучена на базе llava-hf/bakLlava-v1-hf с использованием набора Mantis-Instruct, предназначенного для задач с несколькими изображениями. Модель принимает текст и изображения и выдаёт текстовые ответы; поддерживает диалог, в котором чередуются текст и изображения. В метаданных указаны архитектура LLaVA, плотная модель и формат safetensors. Карточка помечает эту версию как устаревшую и рекомендует более новую Mantis-Siglip-llama3, которая, по заявлению авторов, лучше справляется с задачами по одному и нескольким изображениям. Лицензия — Apache-2.0.
mc_roberta_base — дообученная модель на базе FacebookAI/roberta-base, разработанная yamanpareek-iitm. Она предназначена для выбора правильного варианта ответа среди нескольких предложенных. В README указаны результаты на оценочной выборке: loss 0,9847 и MAP@3 0,8938; датасет обозначен как None, поэтому эти показатели нельзя связать с конкретной областью или набором данных. Модель содержит 151,8 млн параметров, использует архитектуру RoBERTa и принимает текстовые входные данные для задачи multiple-choice. Максимальный размер контекста — 514 токенов. Распространяется по лицензии MIT.
Это диалоговая языковая модель на архитектуре Qwen3 с 7,6 млрд параметров, дообученная yileitu на наборе aligned_5w_data_from_upsampled_M1_LST_upsampled_50k_20260130_162041. Она предназначена для генерации текста в формате диалога; базовая модель Qwen3-8B поддерживает инструкции, рассуждения и работу с кодом. Контекст модели составляет до 40 960 токенов. Модель принимает текст и выдаёт текст. В README нет подробностей о специализации набора данных, оценке качества или ограничениях, поэтому нельзя подтвердить, насколько хорошо модель справляется с отдельными предметными задачами. Репозиторий содержит веса Safetensors; лицензия указана как other.
Mengzi-BERT L6-H768 — разработанная Langboat китайская дистиллированная версия Mengzi-BERT-Large на архитектуре BERT с 72,8 млн параметров. Модель предназначена для работы с китайским текстом; в карточке указаны результаты оценки на девяти китайских задачах, включая классификацию, понимание и ответы на вопросы. В метаданных задана задача fill-mask. Модель опубликована в формате PyTorch, поддерживает контекст до 512 токенов и распространяется по лицензии Apache-2.0. Дистилляция уменьшила модель относительно Mengzi-BERT-Large; конкретные ограничения качества или сценарии, где она превосходит базовую модель, в карточке не заявлены.
Merak-7B-v2 — языковая модель на архитектуре Llama, разработанная для работы с индонезийским языком. Это дообученная версия Meta Llama-2-7B-Chat-HF: автор повторно обучил её с помощью QLoRA на очищенных статьях индонезийской Википедии. В версии v2 использовано около 600 тысяч статей, а стиль вопросов в обучающих примерах изменён по сравнению с v1. Модель предназначена для генерации текста и ответов на вопросы на основе знаний, представленных в обучающих данных. Она содержит 6,6 млрд параметров, принимает текст и имеет контекст до 4096 токенов. В карточке заявлена поддержка индонезийского и английского языков; основное назначение — индонезийский язык. Автор сообщает, что модель может работать с 16 ГБ видеопамяти, но отмечает повышенный расход видеопамяти при использовании 4-битной квантизации BitsAndBytes. Модель распространяется по лицензии CC BY-NC-SA 4.0, которая предусматривает атрибуцию, сохранение той же лицензии для производных работ и некоммерческое использование. Обучение на Википедии ограничивает надёжность и актуальность ответов рамками её данных; карточка не приводит результатов оценки качества.
Meta-Llama-3-8B-Instruct_fictional_German_v1 — диалоговая языковая модель семейства Llama, дообученная разработчиком на наборе данных generator на основе meta-llama/Meta-Llama-3-8B-Instruct. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на генерацию текста в диалоговом формате с контекстом до 8192 токенов. Модель подходит для генерации ответов в чате и других сценариев, где требуется продолжение текста. Название указывает на немецкую тематику, однако README и метаданные не подтверждают, что модель специально обучена немецкому языку или на вымышленных текстах. Вес опубликован в формате safetensors. Указана лицензия other; конкретные условия использования по доступным данным определить нельзя. README не содержит сведений о результатах оценки или известных ограничениях.
Это диалоговая языковая модель на архитектуре Llama, дообученная на базе meta-llama/Meta-Llama-3-8B-Instruct на наборе данных generator. Она предназначена для генерации текста и ответов в чате. В репозитории указано 7,5 млрд параметров, контекст — до 8192 токенов, веса представлены в формате safetensors. Лицензия в метаданных обозначена как other. README не содержит сведений о специализации, языках обучения, оценке качества или ограничениях модели; название репозитория само по себе не подтверждает заявленную специализацию на корейском языке.
uukuguy/mistral-7b-platypus-fp16-dare-0.9 — экспериментальная производная модель на архитектуре Mistral, представленная как эксперимент с методом DARE (Drop and REscale). Метод обнуляет часть параметрических изменений дообучения; в карточке приведены результаты на наборе бенчмарков для варианта Platypus на 7 млрд параметров. Репозиторий содержит модель в формате PyTorch с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и исследовательской оценки влияния DARE на возможности дообученных языковых моделей. В README приведены метрики ARC, HellaSwag, MMLU, TruthfulQA, Winogrande, GSM8K и DROP для базового варианта Platypus; отдельные результаты именно этой версии DARE не указаны. Лицензия в метаданных обозначена как llama2.
EpistemeAI/Mistral-Nemo-Instruct-12B-Philosophy-Math — дообученная языковая модель EpistemeAI на базе unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit. Это плотная архитектура Mistral с 12,1 млрд параметров, предназначенная для генерации текста в диалоговом формате; название указывает на фокус на философских и математических запросах. Модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Заявленная длина контекста — до 1 024 000 токенов, язык карточки — английский. Модель подходит для ответов на философские и математические вопросы, объяснения понятий и ведения диалога. Метаданные также указывают интерфейс вызова инструментов. Доступна по лицензии Apache-2.0. README не приводит оценок качества или подробностей обучающих данных, поэтому специализацию по философии и математике следует считать основанной на названии модели.
Muslim-6B-PRO-i1-GGUF — квантизированная GGUF-версия модели Muslim-6B-PRO, разработанной NightPrince и преобразованной mradermacher. Это авторегрессионная языковая модель примерно на 6 млрд параметров для генерации текста; в метаданных также указана связь с архитектурой Qwen3. Доступны варианты с квантизацией imatrix и различными типами IQ и K-квантов размером примерно от 1,6 до 5 ГБ. Модель ориентирована на арабоязычные и англоязычные сценарии, включая исламскую тематику, генерацию текста, работу в формате голосового ассистента и tool-calling согласно заявленным тегам. Основное преимущество репозитория — широкий выбор квантизаций для запуска на устройствах с ограниченными ресурсами; варианты Q4_K_M и Q4_K_S отмечены как удачные по сочетанию скорости, размера и качества, а Q6_K — как близкий к статической квантизации высокого качества. Точные сведения о размере контекста, мультимодальности, методах обучения и фактической поддержке tool-calling в README не приведены. Низкобитные варианты экономичнее по памяти, но могут заметно уступать в качестве: для некоторых из них прямо указаны низкое качество или предпочтительность альтернативных типов. Модель распространяется по лицензии Apache-2.0.
Nemotron-Super-49B-v1.5 Uncensored GGUF — это версия модели NVIDIA Llama-3.3-Nemotron-Super-49B-v1_5, подготовленная и квантизированная пользователем timteh673. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, в которых требуется отвечать на запросы без исходных защитных ограничений. Она распространяется в формате GGUF для запуска через llama.cpp и совместимых инструментов, включая Ollama. Модель содержит около 49 млрд параметров и использует архитектуру DeciLM — оптимизированный с помощью NAS вариант Llama 3.3 с переменной конфигурацией механизмов внимания и FFN по слоям. Заявленный контекст составляет до 128 тысяч токенов, основной язык — английский. Доступны варианты от BF16 до сильно сжатых Q2_K; рекомендованный автором Q4_K_M занимает около 29 ГБ и ориентирован на запуск на GPU с 32 ГБ памяти. Для менее сжатых вариантов требуется от 48 до 96 и более ГБ видеопамяти. Ключевая особенность релиза — удаление направлений отказа из остаточного потока методом representation engineering, также называемым abliteration. По заявлению автора, при этом не выполнялось дообучение, а изменялись 127 весовых тензоров в слоях модели. Это может повысить готовность модели отвечать на широкий спектр запросов, но одновременно устраняет защитные барьеры и увеличивает риск генерации вредного или небезопасного содержания. Практическое качество зависит от выбранного уровня квантизации и доступного оборудования. Модель распространяется по лицензии Llama 3.3 Community License. Автор указывает, что релиз предназначен для исследований и разработки; ответственность за соблюдение законов и безопасное применение лежит на пользователе.