I.2Синтез, понимание и проверка знаний

FoFoNet-SuperMBX-slerp — языковая модель, созданная слиянием flemmingmiguel/MBX-7B-v3 и vanillaOVO/supermario_v4 разработчиком репозитория fterry с помощью LazyMergekit. Для объединения использован метод slerp с настройками смешивания для слоёв self-attention и MLP. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров; она принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Подходит для сценариев генерации текста общего назначения. В карточке не описаны конкретные языки, специализация или оценка качества модели. Файлы представлены в формате safetensors; лицензия в предоставленных данных не указана.

freewheelin/free-evo-qwen72b-v0.8-re — языковая модель для генерации текста, построенная на архитектуре Qwen2. В карточке описан экспериментальный процесс: дообучение одной из моделей с общей архитектурой, слияние моделей и повторная оценка с целью улучшить средний результат на Open LLM Leaderboard. Для версии от 4 мая 2024 года указана средняя оценка 81,28; среди приведённых показателей — ARC 79,86 и HellaSwag 91,32. Модель содержит 71 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Метаданные указывают английский язык и библиотеку Transformers; файлы опубликованы в формате safetensors. Модель подходит для генерации текста и экспериментального сравнения ответов на бенчмарковые задания. Лицензия — MIT. README сообщает, что при создании использованы несколько моделей на базе Qwen2 и их слияние, но не приводит точные идентификаторы базовых репозиториев. Поэтому базовая модель не устанавливается точнее семейства Qwen2.

Fwizzer-R1-3B-RU — русскоязычная языковая модель, разработанная автором или организацией fwizzer1. Она обучена в стиле пошаговых рассуждений DeepSeek-R1 CoT на отобранном датасете ru-deepthink-11k и предназначена для генерации текста, решения логических задач и сценариев, где требуется явное рассуждение. Модель имеет размер 3 млрд параметров и поддерживает русский и английский языки. Она доступна в формате GGUF в двух вариантах: Speed с квантизацией Q4_K_M и размером около 2,15 ГБ, а также Max с квантизацией Q8_0 и размером около 3,40 ГБ. Для локального запуска рекомендуются LM Studio или llama-cpp-python; в примере использования указан контекст 4096 токенов. Модель работает только с текстом и может выводить ход рассуждений в тегах <think>. К сильным сторонам относятся ориентация на русскоязычные задачи, поддержка пошагового рассуждения и возможность локального запуска на относительно доступном оборудовании. Вариант Speed рассчитан на ноутбуки, RTX 3050 и системы с 16 ГБ оперативной памяти, тогда как Max ориентирован на компьютеры минимум с 8 ГБ видеопамяти. Ограничения включают небольшой размер модели по сравнению с крупными LLM и отсутствие заявленных мультимодальных возможностей или расширенных характеристик контекстного окна. Модель распространяется по лицензии Apache-2.0.

DavidAU/Gemma-3-27b-it-Gemini-Heretic-Uncensored-Deeper-Reasoning-Series2 — это дообученная с помощью Unsloth чат-модель Gemma 3 на 27 млрд параметров, основанная на coder3101/gemma-3-27b-it-heretic. Она предназначена для диалогов, ролевых сценариев и генерации ответов с углублённым рассуждением; рассуждение можно активировать фразой «think deeply:» или системным промптом, а обработка изображений сохранена. Модель принимает текст и изображения, формирует текстовые ответы, поддерживает английский язык и контекст до 128 тысяч токенов. Автор заявляет о снижении числа отказов и приводит результаты бенчмарков, однако это самооценка из карточки, а не независимая проверка. Модель может генерировать откровенный контент; для более явного стиля иногда требуется прямое указание. Выпущена под лицензией Apache-2.0.

Jkatdare/gemma-3-4b-it-finetome — дообученная модель на базе Google Gemma 3 4B IT, созданная методом supervised fine-tuning на высококачественной выборке из 12 000 примеров датасета FineTome-100k. Для обучения применялась QLoRA, после чего адаптер был объединён с базовой моделью; репозиторий содержит веса Safetensors. Модель предназначена для диалогов и генерации ответов на текстовые запросы, а также поддерживает работу с изображениями через интерфейс Gemma 3. Модель использует плотную архитектуру Gemma 3 и доступна через Transformers. В метаданных указан английский язык. Лицензия — Gemma. Карточка не приводит оценок качества или подробных результатов тестирования; способность работать с изображениями унаследована от базовой модели и отдельно для этого дообучения не оценивается.

Gemma-4-12B-GGUF — мультимодальная vision-language модель на базе google/gemma-4-12B, разработанной Google. Данная версия представляет собой набор квантизированных GGUF-сборок, подготовленных пользователем Dhptl с помощью quant-kit 19 июня 2026 года. Модель принимает текст и изображения и предназначена для локального запуска через llama.cpp, LM Studio, Jan или Ollama. Архитектура состоит из текстовой основы и отдельного vision encoder в формате mmproj. Для работы обязательно нужны один файл текстовой модели и файл gemma-4-12B-mmproj-f16.gguf; vision encoder хранится в формате F16 и не квантизирован. Доступны варианты квантизации от Q2_K до Q8_0, размер текстовой основы составляет примерно от 4,5 до 11,8 ГБ, а рекомендуемый вариант Q4_K_M занимает около 6,87 ГБ и требует примерно 8,4 ГБ RAM. Указан английский язык. Максимальный размер контекста в README не приведён; в примере запуска используется контекст 4096 токенов. Модель подходит для диалога, генерации и анализа текста, а также для обработки изображений: например, описания содержимого изображений и ответов на вопросы по ним. Основные преимущества — мультимодальность, поддержка популярных инструментов локального запуска и возможность выбрать компромисс между качеством, скоростью и потреблением памяти. Ограничения связаны с потерями качества при сильной квантизации, необходимостью загружать два файла и заметными требованиями к RAM; заявленные скоростные бенчмарки в README не представлены. Лицензия — Apache-2.0.

EZForever/gemma-4-26B-A4B-it-qat-uncensored-heretic-UDmerge-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, созданная EZForever на основе объединения моделей Unsloth и llmfan46. Распространяется в формате GGUF и предназначена для запуска совместимых локальных inference-систем. Модель ориентирована на диалоговые и текстовые задачи, а при использовании файлов mmproj также поддерживает обработку изображений; файлы mtp обеспечивают поддержку MTP. Вариант UDmerge использует квантизацию Q4_0 для аблированных тензоров и имеет заявленный размер около 14,2 ГБ. В README также упоминается вариант UDmerge-Q4_K_XXL с квантизацией Q8_0 отдельных тензоров, но идентификатор модели указывает именно на UDmerge-GGUF без уточнения этого варианта. Для модели заявлены результаты MMLU-val 81,38%, PPL 5,236 и KLD 0,0448; авторы отмечают, что показатели отказов получены на ограниченном тесте и могут быть неточными. Сильными сторонами являются компактный квантизованный формат, мультимодальная поддержка, относительно небольшое отклонение от BF16-версии и высокая производительность на MMLU в приведённом сравнении. Ограничения включают возможные потери качества из-за квантизации, экспериментальный характер слияния и неопределённость результатов тестов. Контекстное окно, поддерживаемые языки и точные требования к оборудованию в README не указаны. Модель распространяется по лицензии Apache-2.0; для работы с Gemma могут применяться дополнительные условия лицензии Google Gemma.

GLM-5.3-Flash-MLX-mixed-4_8bit — это порт модели GLM-5.3-Flash от zai-org, подготовленный PipeNetwork для MLX и Apple Silicon. Модель предназначена для генерации текста и изображений с текстовыми инструкциями, включая мультимодальные сценарии; vision tower сохранён в формате bfloat16. Архитектура исходной модели не изменена, однако слой multi-token prediction (layer 45) в этой сборке отсутствует. Модель имеет 320B параметров с архитектурой mixture-of-experts и активной конфигурацией A18B. Она объединяет 34 слоя линейного внимания Kimi-Delta и 11 слоёв разреженного внимания DeepSeek с NoPE MLA и lightning indexer, а также использует manifold-constrained hyper-connections. Маршрутизируемые эксперты занимают около 304B параметров и квантизированы в 4 бита, остальные основные компоненты — в 8 бит; параметры vision tower имеют формат bfloat16. Размер файлов составляет 181,9 ГБ. Сильная сторона сборки — существенное сокращение размера относительно 642,7 ГБ для исходной версии bfloat16 при сохранении приемлемого качества: perplexity на wikitext-2 составляет 3,5705 против 3,4607 у 8-битной версии. Для корректной работы рекомендуется исправленный runtime из проекта glm53-flash-mlx; стандартная ветка mlx-vlm содержит известные расхождения в вычислениях. README не указывает поддерживаемые языки и размер контекстного окна. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-UNCENSORED-GGUF — мультимодальная модель семейства GLM, разработанная на основе архитектуры Zhipu AI / ZAI. Некензурированные веса предоставлены dealignai, а GGUF-квантизация и мультимодальный релиз выполнены Solstice-AI. Модель предназначена для генерации и понимания текста, анализа изображений и видео, а также запуска через llama.cpp и совместимые инструменты. В качестве базовой модели указана dealignai/GLM-5.3-Flash-UNCENSORED-FP8. Релиз включает мультимодальный проектор mmproj-BF16.gguf размером 1,11 ГБ с Vision Transformer и временным и пространственным объединением патчей. Поддерживаются английский и китайский языки; заявлены модальности текста, изображений и видео. Для работы указан контекст до 131 072 токенов. В комплект также входят веса DFlash 2 для speculative decoding, позволяющие ускорить генерацию при использовании совместимой конфигурации. Доступны варианты GGUF-квантизации, включая Q4_K_M и Q8_0, а также BF16-компоненты. Сильными сторонами модели являются мультимодальный анализ, поддержка видео, большой контекст, интеграция с llama.cpp и возможность ускорения вывода посредством speculative decoding. Ограничения связаны с необходимостью отдельного мультимодального проектора, совместимого рантайма и, вероятно, значительных вычислительных ресурсов; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии MIT.

inferencerlabs/GLM-5.3-MLX-Q4i — квантизированная версия языковой модели GLM 5.3, основанная на zai-org/GLM-5.3-BF16 и подготовленная сообществом inferencerlabs. Модель предназначена для генерации и продолжения текста, локального текстового инференса и других задач, поддерживаемых библиотекой MLX. Данные о размере модели, архитектуре, языках и максимальной длине контекста в README не указаны. Модель использует формат MLX и квантизацию Q4-INF, настроенную методом INF для повышения общей точности при ограничении памяти до 512 GiB. По приведённым данным конверсии GLM 5.1, Q4-INF показала perplexity 1,21093, точность токенов 97,70% и missed divergence 10,65%; эти показатели не следует напрямую считать результатами для GLM 5.3. На M3 Ultra заявлена скорость около 15,8 токена в секунду при обработке последовательности длиной около 1000 токенов и потребление примерно 428,6 GiB памяти. Сильной стороной модели является адаптация под экосистему MLX и сохранение высокой точности при 4-битной квантизации, однако использование требует значительного объёма оперативной памяти и совместимого оборудования или программного окружения. Модальности ограничены текстом согласно указанному pipeline_tag. Лицензия в README не указана.

Gemma 3 12B IT QAT GGUF — квантизированная instruction-tuned модель семейства Gemma 3, разработанная Google. Данный вариант подготовлен bartowski на основе весов google/gemma-3-12b-it-qat-q4_0-unquantized и предназначен для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к мультимодальному классу image-text-to-text, поэтому предназначена для обработки текста и изображений с генерацией текстовых ответов. Указан размер 12 миллиардов параметров; README не содержит сведений о поддерживаемых языках, размере контекста и точной архитектуре. Доступны варианты в формате GGUF с разными уровнями квантования, включая Q4_0; файл Q4_0 имеет размер около 6,91 ГБ и благодаря QAT должен обеспечивать улучшенное качество относительно обычного квантования при сохранении сниженных требований к памяти. Q4_0 также поддерживает онлайн-репаковку для ARM- и AVX-совместимых CPU. Сильными сторонами являются возможность локального использования, широкий выбор уровней квантования и совместимость с распространённой экосистемой llama.cpp. Более качественные варианты требуют больше памяти, а сильнее сжатые варианты могут заметно терять в качестве. Для доступа к исходной модели на Hugging Face необходимо принять лицензию Google Gemma; конкретные условия лицензии в README не приведены.

kaizerBox/gpt2-small-summarization — модель GPT-2, дообученная на наборе данных XSum для генерации кратких сводок. Она оформлена как причинная языковая модель GPT2LMHeadModel и предназначена для суммирования текстов в виде связного текстового вывода. Метаданные указывают контекст до 1024 токенов и формат весов Safetensors. В README приведена оценка Loss 4,4258 на оценочном наборе, но описание не уточняет методику и качество суммирования. Лицензия в доступных данных не указана.

Это конвертированная для MLX версия многоязычной языковой модели Granite-4.2-30B, подготовленная владельцем репозитория salohcin714 на основе ibm-granite/granite-4.2-30b. Модель предназначена для генерации текста и диалогов; её можно запускать на Apple Silicon через библиотеку MLX. Архитектура — плотная авторегрессионная GraniteForCausalLM с 28,9 млрд параметров и контекстом до 131 072 токенов. Модель принимает текст и генерирует текст. В карточке указаны английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Веса сохранены в исходной точности bfloat16 без квантизации и дообучения; репозиторий использует формат MLX safetensors. Лицензия — Apache-2.0. Карточка описывает конверсию весов и не подтверждает отдельные улучшения качества. Бенчмарки исходной модели нельзя считать результатами проверки этой конвертированной версии.

Granite-7b-lab — языковая модель IBM Research, дообученная на базе ibm/granite-7b-base методом LAB (Large-scale Alignment for chatBots) с использованием Mixtral-8x7B-Instruct как модели-учителя. Это плотная модель архитектуры Llama с 6,6 млрд параметров, поддержкой диалогового режима и контекстом до 4096 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. LAB использует таксономию задач для отбора примеров, генерацию синтетических данных и двухэтапное обучение с буферами повторения; это позволяет добавлять знания и навыки, сохраняя ранее усвоенное. Подход охватывает ответы на вопросы, рассуждение и творческое письмо. Модель распространяется в формате Safetensors по лицензии Apache 2.0. В README отмечено, что чекпойнт не прошёл safety alignment и может выдавать вредные или недостоверные ответы; его не следует использовать как единственный источник для важных решений.

ibm-granite_granite-4.1-30b-GGUF — это набор GGUF-квантизаций языковой модели Granite 4.1 30B, разработанной IBM и опубликованной как ibm-granite/granite-4.1-30b. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix, предназначены для локального запуска и генерации текста. Модель рассчитана на задачи text-generation и может использоваться через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Доступны варианты от BF16 до низкобитных Q3 и IQ3, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. Размер файлов варьируется примерно от 12,78 до 57,74 ГБ; наиболее качественные варианты Q6_K_L и Q6_K имеют размер около 24 ГБ, а Q4_K_M предлагается как сбалансированный вариант. Сильной стороной набора является широкий выбор квантизаций, включая варианты, оптимизированные для различных сценариев и архитектур CPU, а также сохранение высокого качества у старших форматов. Ограничения включают значительные требования к оперативной или видеопамяти для 30-миллиардной модели, снижение качества у младших квантизаций и необходимость поддержки Granite 4.1 используемым программным обеспечением. В README не указаны языки, размер контекста, архитектурные детали и мультимодальные возможности, поэтому эти характеристики нельзя достоверно определить по представленным данным. Модель распространяется по лицензии Apache-2.0.

InnoSpark3.0-35B-260709 — образовательная мультимодальная модель с 35 млрд параметров из серии InnoSpark3.0, разработанная исследовательской командой sii-research на основе семейства NEX 35B. Модель дообучена на общих и образовательных данных с помощью SFT и многоэтапного обучения с подкреплением; архитектура относится к семейству Qwen3.5 MoE. Она принимает текст и изображения и предназначена для диалога и генерации ответов на образовательные вопросы. Модель подходит для объяснения понятий, пошагового обучения, помощи с домашними заданиями, подготовки уроков и учебных материалов, а также для диалоговых помощников учеников и преподавателей. Обучение усиливало рассуждение, следование инструкциям и агентные возможности; визуальные способности специально не оптимизировались. Лицензия — Apache-2.0. Как и другие большие языковые модели, InnoSpark может выдавать неточные, неполные или предвзятые ответы. В образовательных и особенно высокозначимых сценариях результаты следует проверять; модель не следует использовать как единственный источник для проверки фактов, выставления оценок или критически важных решений.

Iridium-72B-v0.1 — языковая модель на 71,5 млрд параметров, созданная автором leafspark слиянием Qwen2-72B-Instruct, calme2.1-72b и magnum-72b-v1 с помощью model_stock. Модель использует плотную архитектуру Qwen2 для генерации текста и диалогов; доступна в формате safetensors для Transformers. В README указан контекст до 128 тысяч токенов, тогда как метаданные каталога указывают native context в 32 768 токенов. Модель предназначена для диалоговых ответов и генерации связного текста, сочетая, по описанию автора, стиль прозы Magnum с возможностями Calme. Поддерживаемые языки по карточке — английский и китайский. Для запуска автор указывает потребность примерно в 140 ГБ VRAM или RAM и не менее 135 ГБ свободного места. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями исходных моделей.

Карточка модели modulon-labs/K2-Horizon-7B-GDN-Hybrid-Exp на Hugging Face совпадает с карточкой TFM-ML/K2-Horizon-7B-GDN-Hybrid-Exp, поэтому описание составлено по ней. TFM-ML выпустила экспериментальную плотную языковую модель K2-Horizon-7B-GDN-Hybrid-Exp на основе IFM/K2-Horizon-7B. Она предназначена для генерации текста и диалогов с длинным контекстом. В 36-слойной архитектуре чётные слои используют Gated DeltaNet, а нечётные сохраняют исходное full attention; параметры GDN инициализированы из весов внимания и дистиллированы на базе исходной модели. Модель содержит 8 млрд параметров и поддерживает контекст до 524 288 токенов. Замена половины слоёв full attention на GDN сокращает объём KV-кэша на токен вдвое, до 73 728 байт; на последовательность также требуется около 19 МиБ состояния GDN в bf16. Модель предназначена для сценариев, где важна экономия памяти при работе с длинными последовательностями, однако авторы предупреждают о снижении качества в задачах рассуждения. Для запуска требуется transformers с custom code и параметром trust_remote_code=True; автор протестировал версию transformers 5.17.0. Лицензия — Apache-2.0.

Ko-Mixtral-v1.3-MoE-7Bx2 — языковая модель Seungyoo Lee (DopeorNope) и Kyujin Han, построенная на архитектуре Mixtral с разреженной смесью экспертов. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста с контекстом до 32 768 токенов. Модель обучали на корпусе AI Hub: сначала проводили непрерывное предварительное обучение, затем настройку на инструкциях. В карточке описаны задачи предсказания пропусков, выравнивания текста и его продолжения, включая примеры на корейском языке. Метаданные указывают корейский и английский как языки карточки; это не подтверждает одинаковый уровень качества для обоих языков. Веса опубликованы в формате safetensors. Лицензия CC BY-NC-SA 4.0 требует указания авторства и распространяет производные работы на тех же условиях, а также ограничивает коммерческое использование.

Kosmos-EVAA-PRP-v33-8B — объединённая методом SLERP языковая модель, созданная jaspionjader с помощью mergekit. В объединение вошли jaspionjader/Kosmos-EVAA-PRP-v32-8B и jaspionjader/Kosmos-EVAA-PRP-v30-8B; архитектура — плотная LlamaForCausalLM примерно на 7,5 млрд параметров. Модель предназначена для генерации текста и работает с контекстом до 8192 токенов. Модель загружается через Transformers в формате safetensors. README не описывает конкретные специализации, языковое покрытие или сравнительные результаты, поэтому её следует рассматривать как универсальную генеративную языковую модель. Лицензия и дополнительные ограничения в предоставленных данных не приведены.

Labradorite-13b — языковая модель IBM Research, дообученная по методике LAB (Large-scale Alignment for chatBots) для диалогов и генерации текста. В основе лежит LLaMA 2-13B; для синтеза обучающих данных использовалась Mixtral-8x7B-Instruct-v0.1. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 12,9 млрд параметров и поддерживает контекст до 4096 токенов. Модель рассчитана прежде всего на английский язык. Её можно применять для ответов на вопросы, рассуждений, творческого письма и других общих задач генерации текста; методика LAB также предназначена для добавления знаний из документов и обучения навыкам с сохранением ранее усвоенных данных. Модель распространяется по лицензии Llama 2 Community License. В README отмечено, что модель не выравнивалась по предпочтениям людей и может выдавать проблемные или вымышленные ответы. Она наследует ограничения LLaMA 2 и риски, связанные с синтетическими обучающими данными; для важных решений её выводы требуют проверки.

KRLabsOrg разработала LettuceDetect для выявления галлюцинаций в ответах итальянских RAG-систем. Модель находит в тексте ответа отдельные токены, которые не подтверждаются предоставленным контекстом; предсказания можно объединять в фрагменты для проверки источников и редактирования ответа. Это дообученная для классификации токенов модель EuroBERT-210M с архитектурой энкодера и 211,7 млн параметров. Она рассчитана на итальянский язык и обрабатывает контекст до 8192 токенов. В оценке на переведённом наборе RAGTruth-IT авторы сообщают F1 65,93%; модель показывает более высокую скорость по сравнению с вариантом на 610 млн параметров. Модель предназначена для вспомогательной проверки ответов и не гарантирует обнаружение всех неподтверждённых утверждений. Распространяется по лицензии MIT. Для загрузки README указывает на несовместимость использующегося удалённого кода EuroBERT с Transformers 5.x.

LFM2-24B-A2B-MLX-bf16 — экспорт модели LFM2-24B-A2B в формате MLX от Liquid AI, предназначенный для инференса на компьютерах Apple Silicon. Это причинная языковая модель с архитектурой Mixture of Experts: в ней 24 млрд параметров, из которых активны около 2 млрд на токен; используются 64 эксперта с выбором четырёх экспертов на токен. Репозиторий рассчитан на запуск через библиотеку mlx-lm. Модель предназначена для генерации текста и диалогов. Метаданные указывают контекст до 128 000 токенов и английский язык; базовая модель описана как многоязычная. README приводит рекомендуемые параметры сэмплирования, включая temperature 0.1 и top_p 0.1. В метаданных указана лицензия other, поэтому конкретные условия использования следует сверять с лицензией репозитория. Экспорт ориентирован на Apple Silicon; сведения о качестве на других устройствах или сравнительных оценках не приведены.

jhj1769/Llama1B_mrpc — дообученная модель классификации текста на основе Meta Llama 3.2 1B. Она предназначена для классификации текстовых примеров; название модели указывает на задачу MRPC — определение того, выражают ли два предложения одинаковый смысл. Модель содержит 1,2 млрд параметров, использует плотную архитектуру Llama и сохранена в формате safetensors. Заявленная длина контекста — 131 072 токена. В README приведены результаты оценки: accuracy 0,8064 и F1 0,8668; датасет обучения и подробности применения не раскрыты. Базовая модель поддерживает несколько языков, но конкретные языки этой версии не подтверждены. Лицензия — Llama 3.2; применяются её условия использования.

Yukang выпускает эту модель как часть семейства LongAlpaca — набора моделей для следования длинным инструкциям. Это дообученная версия Llama 2 Chat с 70 млрд параметров, созданная с применением LongLoRA и SFT; автор README сообщает, что данный SFT-чекпойнт снят с поддержки. Модель предназначена для генерации текста в ответ на инструкции и запросы с длинным контекстом. В названии заявлена настройка на контекст до 32 тысяч токенов, однако метаданные указывают native context в 4096 токенов, поэтому поддержку более длинного контекста следует считать ограниченной или требующей отдельной настройки. Доступен формат PyTorch; основным языком в предоставленных данных не обозначен. Модель основана на Llama 2 Chat и предназначена для экспериментального применения в сценариях диалогового следования инструкциям. Лицензия в предоставленных данных не указана.

Это разреженная версия диалоговой языковой модели Llama 2 Chat 7B, разработанной Meta и обрезанной методом Wanda до 30% разреженности без переобучения или обновления весов. Модель представляет собой авторегрессионный трансформер с плотной архитектурой LlamaForCausalLM; репозиторий содержит веса PyTorch и SafeTensors. Размер модели по метаданным — 6,6 млрд параметров, длина контекста — 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена прежде всего для диалоговых сценариев на английском языке: ответы на вопросы, работа в формате ассистента и генерация текста. Для ожидаемого поведения чат-версии следует использовать форматирование Llama 2 с маркерами инструкций и специальными токенами. Обрезка снижает число ненулевых параметров, сохраняя, по заявлению карточки, конкурентоспособное качество; конкретные результаты для этой версии не приведены. Как и другие языковые модели, она может выдавать неточную, предвзятую или нежелательную информацию. В README указана лицензия Meta для Llama 2 с требованием принять лицензионное соглашение для получения весов; в метаданных лицензия обозначена как other.

Llama-2-7b-chat-norwegian — разработанная Ruter AI Lab дообученная версия Meta Llama 2 7B Chat. Модель предназначена для понимания и генерации текста на норвежском языке и может использоваться как чат-ассистент. Она поддерживает шаблоны запросов Llama 2 Chat и Alpaca, содержит около 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и имеет контекст до 4096 токенов. Модель обучали одну эпоху на наборах Norwegian Alpaca и 15 тысячах машинно переведённых примеров OpenOrca, а также на небольшой подборке инструкционных данных Ruter AI Lab. Она подходит для суммаризации, ответов на вопросы и диалога на норвежском языке. Выпущена по лицензии Llama 2 Community License; для оптимальных результатов может потребоваться настройка промптов.

posicube/Llama2-chat-AYT-13B — диалоговая языковая модель компании Posicube Inc., созданная на основе Llama-2-13b-chat-hf. Разработчики объединили модели, показавшие лучшие результаты в бенчмарках ARC, MMLU и TruthfulQA; при обучении использовались наборы данных в стилях Orca и Alpaca. Модель содержит 12,9 млрд параметров, использует архитектуру Llama и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации ответов и диалогового использования на английском языке. В README сообщается о высоких результатах среди моделей класса 13B на бенчмарках 2023 года, включая ARC, HellaSwag и MMLU. Лицензия — Llama 2. Тестирование описано для английского языка; перед применением в конкретных сценариях следует проверять качество и безопасность ответов.

notcvnt/Llama-3.1-8B-Instruct-heretic — производная инструктивная версия Meta Llama 3.1, представленная сообществом как «heretic» и «abliterated». По метаданным это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленный контекст — до 131 072 токенов. README описывает исходную Llama 3.1 Instruct, а не конкретную версию heretic, поэтому сведения о языках, методе изменения поведения и характеристиках именно этого варианта ограничены. В метаданных указаны языки en, de, fr, it, pt, hi, es и th. Модель подходит для диалогового помощника и генерации текста на поддерживаемых языках. Метки «uncensored» и «abliterated» указывают на изменённый профиль отказов или ограничений, но карточка не раскрывает точную методику и результаты оценки; выходы следует проверять на точность и безопасность. Модель распространяется по лицензии Llama 3.1 Community License (идентификатор лицензии в метаданных — llama3.1); применение регулируется её условиями и Acceptable Use Policy.

llama3.1-kartoffeldes-70B — плотная языковая модель семейства Llama 3.1 на 69,5 млрд параметров, созданная nbeerbower путём дообучения Llama-3.1-Saoirse-70B. Модель предназначена для генерации текста и диалогового взаимодействия; указано, что она дообучена методом ORPO на нескольких наборах данных в течение двух эпох. Модель работает с текстом и имеет контекстное окно до 131072 токенов. Репозиторий содержит веса в формате Safetensors. В метаданных указана лицензия Llama 3.1. Состав наборов для дообучения включает данные для предпочтений, физического рассуждения и проверки достоверности; карточка не приводит результатов оценки качества, поэтому конкретные преимущества модели установить нельзя.