I.3Извлечение и структурирование данных

ssmits/Falcon2-8B-multilingual — текстовая языковая модель семейства Falcon, опубликованная как слияние предварительно обученных моделей с помощью mergekit и метода passthrough. В состав слияния вошла ssmits/Falcon2-5.5B-multilingual; метаданные также связывают эту модель с базовой моделью через дообучение. Репозиторий содержит веса в формате safetensors, модель использует архитектуру FalconForCausalLM и поддерживает диалоговый режим. Модель предназначена для генерации текста и диалогов; метаданные также указывают задачи ответов на вопросы, классификации текста и токенов. Контекстное окно составляет 8192 токена, а общий размер модели — 11,8 млрд параметров. Название указывает на многоязычность, однако конкретные языки в доступных данных не перечислены. Сведения о лицензии отсутствуют в предоставленных источниках.

Faro-Yi-9B-DPO-imatrix-GGUF — набор GGUF-квантизаций модели Faro-Yi-9B-DPO, опубликованный пользователем duytnet. Базовая модель разработана wenbopan как DPO-версия Faro-Yi-9B на архитектуре Yi с примерно 9 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев, использует шаблон ChatML и поддерживает работу через llama.cpp, KoboldCpp, Ollama, text-generation-webui, Jan и GPT4All. Модель ориентирована на ответы общего назначения, рассуждения, работу с вопросами и документами, включая длинный контекст. В README заявлены высокие результаты на MMLU, GSM8K, HellaSwag, TruthfulQA, AI2 ARC, Winogrande и CMMLU, а также предпочтение ответов модели в оценке MT-Bench с использованием GPT-4 Judge. Для оригинальной модели описана работа с контекстом до 32K токенов при 24 ГБ видеопамяти, до 48K при использовании FP8 KV-кэша и до 160K для 4-битной AWQ-квантизации, однако фактические возможности конкретной GGUF-квантизации зависят от файла, аппаратного обеспечения и настроек запуска. В карточке указаны английский язык и лицензия «other», но точные условия лицензии не приведены. GGUF-квантизация снижает требования к памяти и упрощает локальный запуск, однако может приводить к некоторой потере качества по сравнению с полноразмерной моделью; степень потерь зависит от выбранного варианта квантизации.

deutsche-telekom/gbert-large-paraphrase-euclidean — модель Sentence Transformers от Deutsche Telekom, дообученная на базе deepset/gbert-large для построения эмбеддингов немецких предложений и абзацев. Она преобразует текст в плотные векторы размерностью 1024 и рассчитана на применение с SetFit для классификации немецкого текста в условиях малого числа примеров. Модель использует архитектуру BERT и обучалась с BatchHardSoftMarginTripletLoss с евклидовой метрикой на отфильтрованном наборе парафраз немецких предложений. Контекст ограничен 512 токенами; объём модели — 434,5 млн параметров. В README авторы сообщают о лучших результатах среди сравнивавшихся вариантов в сценарии немецкой классификации с малым числом примеров. Лицензия — MIT.

cortexso/gemma2 — это семейство текстовых генеративных моделей Gemma, разработанное Google и подготовленное для использования в экосистемах Cortex и Jan. Модели обучались на сочетании синтетических данных и отфильтрованных общедоступных веб-данных с акцентом на качество и задачи, требующие рассуждений. Семейство предназначено для генерации и обработки текста в локальных приложениях и через интерфейсы Cortex CLI или Jan. В README указаны варианты Gemma2-2b, Gemma2-9b и Gemma2-27b; конкретные архитектурные параметры, поддерживаемые языки и модальности не описаны. Также приведена информация о вариантах контекстной длины 8K и 128K, но соответствие этих значений отдельным версиям не уточнено. Сильными сторонами заявлены качество данных обучения и ориентация на рассуждения, однако сведения о результатах тестирования, ограничениях и рекомендуемых сценариях отсутствуют. Лицензия указана как Gemma; оригинальная лицензия доступна в условиях Google Gemma.

unsloth/gemma-3-1b-it-bnb-4bit — квантизированная 4-битная версия instruction-tuned модели google/gemma-3-1b-it, основанной на семействе Gemma 3. Разработчик исходной модели — Google DeepMind; сборка и публикация варианта выполнены Unsloth. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и понимания изображений. Модель мультимодальная: принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Поддерживается более 140 языков, включая английский; в метаданных этой карточки явно указан язык en. Небольшой размер и 4-битное представление упрощают локальное развёртывание на ноутбуках, настольных компьютерах и в облачной инфраструктуре с ограниченными ресурсами, однако квантизация может снижать точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google. В README не приведены точные требования к аппаратному обеспечению, результаты тестирования или подробные сведения об архитектуре, поэтому производительность в конкретных задачах по этой карточке оценить нельзя.

zeromodels/gemma-4-12b-it — конверсия Gemma 4 12B Instruct в формате Keras 3 от zeromodels. Модель содержит около 11,95 млрд параметров и представлена в bfloat16; реализация запускается на TensorFlow, PyTorch и JAX. Вариант предназначен для генерации ответов по тексту, изображениям и аудио: принимает эти типы входных данных и выдаёт текст. Доступен также текстовый режим. В README указано окно скользящего внимания 1024 токена; это не следует трактовать как полный размер контекста. Модель унаследована от google/gemma-4-12B-it и распространяется по лицензии Apache 2.0.

OsaurusAI подготовила вариант Gemma 4 26B A4B Instruct в формате MLX JANG_4M на основе google/gemma-4-26B-A4B-it-qat-q4_0-unquantized. Это мультимодальная модель для диалога и генерации текста с поддержкой изображений; в карточке также заявлен интерфейс вызова инструментов. Веса упакованы с разной точностью: эмбеддинги, нормализации, компоненты обработки медиа и отдельные проекции сохранены в fp16, проекции внимания и маршрутизатор MoE используют 8-битное аффинное представление, а основная часть MLP и экспертов — 4-битное. Вариант предназначен для запуска через совместимый с Gemma 4 загрузчик MLX или vMLX, который обрабатывает настройки quantization, jang_config.json и файлы процессора и шаблона чата Gemma 4. Vision-конфигурация сохранена; активная поддержка аудио не заявлена. Лицензия — Gemma.

Xenova/GIST-small-Embedding-v0 — модель для получения векторных представлений текста, опубликованная в формате ONNX для совместимости с библиотекой Transformers.js. Она основана на модели avsolatorio/GIST-small-Embedding-v0 и предназначена для запуска в JavaScript-приложениях, включая веб-среду, через конвейер feature-extraction. Модель подходит для задач, где требуется преобразовать текст в embedding, например для семантического поиска, сравнения текстов и построения систем, использующих векторные представления. Ключевой особенностью является наличие ONNX-весов и интеграция с Transformers.js; точная архитектура, количество параметров, поддерживаемые языки, размер контекста и модальности в README не указаны. Лицензия также не указана, поэтому условия использования следует уточнять в исходном репозитории avsolatorio/GIST-small-Embedding-v0.

GLM-4.7-Flash-MLX-4bit — это 4-битная квантизированная версия языковой модели GLM-4.7-Flash, разработанной организацией zai-org. Квантизация выполнена командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon в экосистеме MLX. Модель предназначена для генерации текста и может использоваться в сценариях, поддерживаемых библиотекой Transformers и инструментами MLX, включая локальный запуск на совместимых компьютерах Apple. В README заявлена поддержка английского и китайского языков. Модель относится к текстовой модальности; сведения о размере, конкретной архитектуре и максимальной длине контекста не указаны. Ключевое преимущество версии — снижение требований к памяти и вычислительным ресурсам за счёт 4-битной квантизации и оптимизации под Apple Silicon. При этом квантизация может влиять на точность и качество генерации по сравнению с исходной моделью, а фактическая производительность зависит от оборудования и настроек запуска. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-MLX-8bit — это квантованная 8-битная сборка модели GLM-5.3-Flash, разработанной организацией zai-org и адаптированной PipeNetwork для MLX на Apple Silicon. Модель относится к классу смесей экспертов (Mixture-of-Experts), имеет 320 млрд параметров, из которых активно используется 18 млрд (320B-A18B). Архитектура включает 34 слоя Kimi-Delta с линейным вниманием и 11 слоёв DeepSeek sparse attention с NoPE MLA и lightning indexer, а также manifold-constrained hyper-connections. Мультитокенная предсказательная прослойка исключена, а vision tower сохранена в формате bfloat16. Модель предназначена для генерации текста и работы с изображениями и текстом; в README указана модальность image-text-to-text. Сборка рассчитана на запуск через MLX и совместимый runtime на компьютерах Apple Silicon. Размер файлов на диске составляет около 334,1 ГБ. Основная масса параметров, включая маршрутизируемых экспертов, квантована в 8 бит с группами по 64 значения; отдельные служебные параметры хранятся в float32, а vision tower — в bfloat16. Языки и размер контекстного окна в README не указаны. Сильной стороной сборки является существенное уменьшение размера по сравнению с исходной версией bfloat16 объёмом около 642,7 ГБ при близком качестве: заявленная perplexity на wikitext-2 составляет 3,4607. Для корректной работы рекомендуется пропатченный runtime из проекта PipeNetwork, поскольку стандартная ветка mlx-vlm содержит расхождения в вычислениях. Модель распространяется по лицензии MIT; в README также указано, что файлы были конвертированы из upstream-релиза и архитектура модели не изменялась.

GME-Qwen2-VL-2B — мультимодальная модель эмбеддингов, разработанная Tongyi Lab компании Alibaba Group на основе Qwen2-VL-2B-Instruct. Она преобразует текст, одно изображение или пару «изображение и текст» в векторы размерностью 1536 для поиска и сопоставления между текстами и изображениями. Модель поддерживает динамическое разрешение изображений и контекст до 32 768 токенов. Модель предназначена для текстового и мультимодального поиска, включая поиск изображений по тексту, похожих изображений и документов по содержимому скриншотов. Её можно применять в мультимодальных RAG-системах, например для поиска по научным статьям. В карточке сообщаются результаты оценки на английском и китайском наборах MTEB, однако обучение велось только на английских данных, поэтому качество мультиязычных мультимодальных эмбеддингов не гарантируется. Модель обрабатывает по одному изображению за раз; число визуальных токенов ограничено 1024. Данные карточки указывают лицензию Apache-2.0, а правила распространения GME дополнительно требуют заметно указывать «Built with GME» для продуктов с моделью и добавлять префикс «GME» к названиям моделей, созданных с использованием её выходов.

Это GGUF-квантизации инструкционной модели Gemma 3 4B IT, разработанной Google и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогов, генерации и обработки текста, а также поддерживает работу с изображениями через vision-компонент. Она может использоваться локально в LM Studio, llama.cpp и других совместимых проектах. Модель содержит около 4 миллиардов параметров и доступна в вариантах BF16, F32/F16 для vision-компонента и многочисленных квантизациях от Q8_0 до Q2_K_L, что позволяет выбирать баланс между качеством, размером файлов и требованиями к памяти. Для анализа изображений требуется отдельный файл mmproj и сборка llama.cpp с поддержкой Gemma 3. В README не указаны поддерживаемые языки, размер контекста и точные архитектурные характеристики. Сильными сторонами являются локальный запуск, широкий выбор уровней квантизации и мультимодальные возможности. Более низкие варианты квантизации экономят память, но снижают качество; некоторые форматы отмечены как устаревшие или нерекомендуемые. Лицензия в предоставленных данных не указана.

gradientai-Llama-3-8B-Instruct-262k-GGUF — набор квантованных файлов модели gradientai/Llama-3-8B-Instruct-262k, подготовленный организацией Featherless AI Quants. Модель относится к классу text-generation и предназначена для генерации текста и выполнения инструкций в сценариях локального или совместимого с GGUF инференса. Известно, что это 8-миллиардная instruct-модель семейства Llama 3 с заявленным контекстом до 262 тысяч токенов. README не указывает поддерживаемые языки, точную архитектуру, мультимодальные возможности, результаты оценки или специальные сценарии применения. Доступны варианты квантования Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0; их размер составляет примерно от 3,0 до 8,1 ГБ, что позволяет выбирать компромисс между требованиями к памяти и сохранением качества. Сильными сторонами модели являются большой заявленный контекст и широкий выбор GGUF-квантований, подходящих для разных аппаратных конфигураций. Ограничения README не раскрывает: отсутствуют сведения о качестве, скорости, требованиях к оборудованию, языковом покрытии и поведении на конкретных задачах. Лицензия в предоставленных данных не указана.

gte-multilingual-mlm-base — многоязычный текстовый энкодер, разработанный Institute for Intelligent Computing группы Alibaba. Это версия для Transformers исходной модели Alibaba-NLP/gte-multilingual-mlm-base: веса сохранены без изменений, а конфигурация преобразована для загрузки без trust_remote_code. Модель содержит 305,3 млн параметров и принимает последовательности длиной до 8192 токенов. Энкодер построен на архитектуре transformer++ на основе BERT с RoPE и GLU и использует словарь XLM-R. Он обучен методом masked language modeling на многоязычных текстовых данных и предназначен для представления текста; в карточке также заявлены результаты на GLUE и XTREME-R, превосходящие XLM-R-base того же размера. Модель поддерживает 75 языков, включая русский, и подходит для задач, которым нужны контекстуальные представления текста и заполнение маски. Лицензия — Apache-2.0.

gte-multilingual-reranker-base — мультиязычная модель переранжирования из семейства GTE, разработанная Alibaba. Это версия для Transformers с неизменёнными весами исходной Alibaba-NLP/gte-multilingual-reranker-base и преобразованным config.json, благодаря чему модель загружается без trust_remote_code. Архитектура — encoder-only Transformer для классификации последовательностей, размер — около 305 млн параметров; модель принимает текстовые запросы и документы и оценивает их релевантность, поддерживая входную длину до 8192 токенов. Модель предназначена для повторной сортировки результатов поиска и улучшения мультиязычного извлечения информации. По данным карточки, она поддерживает более 70 языков и показывает высокие результаты в мультиязычных задачах retrieval; encoder-only архитектура снижает требования к оборудованию и, по README, обеспечивает до десятикратного увеличения скорости вывода по сравнению с некоторыми reranker-моделями на decode-only LLM. Веса доступны в формате safetensors, лицензия — Apache-2.0.

Hermes-Instruct-7B-217K — диалоговая языковая модель на архитектуре Mistral, созданная Lodrick the Lafted. Это дообученная версия Mistral-7B-Instruct-v0.2, обученная на 217 тысячах примеров из teknium/openhermes в формате Alpaca. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых инструкций. Она принимает запросы в формате Mistral-Instruct или Alpaca; токенизатор по умолчанию настроен на Alpaca. Автор описывает обучение на разном объёме данных как эксперимент по оценке влияния дальнейшего дообучения. Репозиторий предоставляет веса PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Результаты зависят от запроса и контекста; карточка не приводит отдельной оценки качества или подробностей ограничений.

Это независимая производная модель Huihui-Qwen3.8-27B-abliterated, подготовленная на основе исходных BF16-весов Huihui и с использованием схемы NVFP4 от Gittensor. Релиз не является официальным продуктом Huihui, Gittensor, Qwen, NVIDIA или SGLang. Модель распространяется под лицензией Apache 2.0. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, включая агентские задачи, работу с инструментами и сложные задачи рассуждения и программирования. Она основана на архитектуре Qwen3.8 с 27 млрд параметров и использует квантование NVFP4 W4A4 с размером группы 16. В процессе подготовки vision-компоненты, embeddings и отдельные слои Gated-DeltaNet были исключены из NVFP4; native MTP head удалён из deployment-варианта. Поддерживается контекст до 262 144 токенов при конфигурации SGLang, указанной в карточке. Сведения о языках обучения или полном перечне поддерживаемых языков отсутствуют. К сильным сторонам относятся сниженные требования к памяти благодаря NVFP4, совместимость с layout и метаданными Gittensor, а также возможность запуска на одной NVIDIA RTX 5090 с SGLang. Для ускоренного декодирования предусмотрена отдельная совместимая модель-черновик DSpark. Ограничения включают ориентацию на конкретную GPU-конфигурацию и serving-стек, необходимость специальной настройки SGLang, отсутствие встроенного MTP head и зависимость ускоренного режима от отдельного DSpark checkpoint. Архитектурные и поведенческие последствия абляции слоёв 18–51 по описанию исходной модели и слоёв 17–51 по прямому сравнению тензоров отдельно не оценены.

InternVL3-78B-hf — мультимодальная модель OpenGVLab, представленная в реализации для Hugging Face Transformers и функционально эквивалентная оригинальному выпуску InternVL3-78B. Это плотная архитектура класса InternVLForConditionalGeneration с 78 млрд параметров; репозиторий содержит веса Safetensors и поддерживает инференс через Transformers. Модель предназначена для диалогов и генерации текста по текстовым запросам, изображениям и видео. Она может отвечать на вопросы по визуальному содержимому, выполнять визуальные рассуждения и обрабатывать чередующиеся текстовые, графические и видеоданные; семейство также ориентировано на сценарии использования инструментов, GUI-агентов, промышленный анализ изображений и 3D-восприятие. Карточка указывает многоязычную поддержку, но не перечисляет конкретные языки. Репозиторий основан на OpenGVLab/InternVL3-78B-Instruct и помечен как дообучение. Доступны варианты attention eager, SDPA и FA2, а также пакетный инференс. Модель создана для работы с Transformers; конкретная длина контекста в предоставленных данных не указана. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией репозитория и оригинального чекпойнта.

Omerhan разработал Omerhan/intfloat-fine-tuned-14376-v4 — Sentence Transformer, дообученный на базе intfloat/multilingual-e5-large-instruct для создания плотных текстовых эмбеддингов. Модель использует XLM-RoBERTa с усреднением токеновых представлений и нормализацией; размер эмбеддинга — 1024, максимальная длина последовательности — 512 токенов. Для сравнения векторов подходит косинусное сходство. Модель ориентирована на турецкий язык. Её можно применять для семантического поиска, сравнения предложений и документов, поиска перефразировок, кластеризации и классификации текста. Обучение проводилось на наборе json из 920 106 примеров с парами и отрицательными примерами; используются MatryoshkaLoss и MultipleNegativesRankingLoss. Модель распространяется по лицензии Apache-2.0.

jinaai/jina-embeddings-v5-omni-nano-classification — мультимодальная модель эмбеддингов Jina AI, дообученная для задач классификации на базе jinaai/jina-embeddings-v5-omni-nano. Плотная архитектура LlavaEuroBertAudioForEmbedding принимает текст, изображения, видео и аудио и преобразует их в совместимые векторы размерности 768 в общем пространстве. В модели около 0,95 млрд параметров. Модель предназначена для классификации по эмбеддингам и мультимодального поиска: можно индексировать текст и искать в нём по изображениям, видео или аудио без повторной индексации. Видео представляется кадрами; звуковая дорожка автоматически не обрабатывается, её нужно передать отдельно. Для текстовых документов ожидается префикс «Document: ». Доступны веса safetensors и поддержка Transformers; карточка также описывает запуск через sentence-transformers и vLLM. Мультиязычная модель подходит для сопоставления и классификации контента разных модальностей в общем пространстве эмбеддингов. Лицензия CC-BY-NC-4.0 разрешает использование с ограничением на коммерческое применение.

jina-embeddings-v5-omni-small-classification — мультимодальная модель эмбеддингов от Jina AI, адаптированная для задач классификации. Она построена на архитектуре Qwen3-VL-Audio и принимает текст, изображения, видео и аудио, преобразуя их в векторы размерности 1024 в общем пространстве, совместимом с текстовыми моделями эмбеддингов Jina v5. Размер модели — около 1,56 млрд параметров. Модель предназначена для получения признаковых векторов, которые можно использовать в классификации, а также для индексирования и поиска по разным модальностям: например, индексировать текст и искать по изображению, видеокадрам или аудио без повторной индексации. Видео представляется кадрами; звуковая дорожка автоматически не учитывается и должна передаваться отдельно. Для текстового ввода используется префикс «Document: ». Модель поддерживает мультиязычный ввод; в README описаны способы запуска через Transformers, sentence-transformers и vLLM. Веса опубликованы в формате safetensors, библиотека — Transformers. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование. Для инференса требуются актуальные версии зависимостей; мультимодальные компоненты можно загружать выборочно для экономии памяти.

Это модель Sentence Transformer от snunlp для получения векторных представлений корейских предложений и абзацев. Она основана на BERT с 144,3 млн параметров и формирует плотные эмбеддинги размерности 768; вектор предложения строится усреднением токенных представлений. Максимальная длина входа — 512 токенов, сходство векторов можно оценивать косинусной мерой. Модель обучена на корейском наборе klue/klue и предназначена для оценки семантической близости текстов, семантического поиска, поиска перефразировок, кластеризации и получения признаков для классификации. В README приведён результат Spearman 0,8765 на sts-dev. Она принимает текст на корейском языке и выдаёт векторы; классификацию и кластеризацию следует выполнять отдельным алгоритмом поверх эмбеддингов. Лицензия в предоставленных данных не указана.

kyrgyz-whisper-small — мультиязычная модель распознавания речи, дообученная на архитектуре Whisper Small компании OpenAI. Модель содержит 153,1 млн параметров и принимает аудио для транскрибации на кыргызском, английском и русском языках. Она рассчитана на работу с шумными записями, смешением языков и дальнейшую адаптацию с помощью LoRA. В карточке сообщается об обучении примерно на 2 000 часах кыргызского аудио и дополнительном аудио на английском и русском языках. На бенчмарке FLEURS кыргызская WER достигает примерно 0,2–0,4; добавление кыргызского языка сопровождается некоторым снижением точности для английского и русского. Для кыргызского требуется пользовательский токенизатор. Модель распространяется по лицензии Apache-2.0.

Solomennikova/labse_funetuned_hoff — дообученная модель Sentence Transformers на базе cointegrated/LaBSE-en-ru. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для оценки семантического сходства и поиска текстов по смыслу. Также её можно применять для поиска перефразировок, кластеризации и классификации текстов. Модель использует архитектуру BERT, функцию косинусного сходства и принимает последовательности длиной до 512 токенов. Она обучена на 86 732 парах текстов; примеры в карточке включают короткие русские поисковые запросы и описания товаров. Это позволяет использовать её для семантического поиска по каталогу товаров, хотя карточка не приводит результатов оценки качества. Библиотека модели — Sentence Transformers, веса представлены в формате safetensors. Лицензия в предоставленных данных не указана.

LFM2.5-1.2B-JP-202606 — компактная текстовая чат-модель Liquid AI, дообученная на базе LiquidAI/LFM2.5-1.2B-Base. Она предназначена прежде всего для японских приложений, также поддерживает английский. В метаданных указано 1,5 млрд параметров и контекст 128 000 токенов; README приводит 1,17 млрд параметров и контекст 32 768 токенов. Архитектура — плотная LFM2 с 16 слоями: 10 блоками LIV-свёртки с двойным гейтингом и 6 блоками GQA. Модель подходит для диалоговых помощников, следования инструкциям, математики и кода, вызова инструментов, структурированных ответов и локальных персональных ассистентов. Разработчик отмечает улучшения в японском языке и рекомендует давать чёткие инструкции с ожидаемым форматом ответа. Модель не рекомендуется для задач, требующих обширных знаний. Лицензия в метаданных указана как other; конкретные условия следует сверять с карточкой репозитория.

Meta Llama 3.1 8B — авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Это базовая предварительно обученная версия семейства Llama 3.1; веса представлены в формате Safetensors и предназначены для генерации текста и последующей адаптации под разные задачи. Модель принимает текст и генерирует текст. Модель подходит для генерации естественного языка, создания диалоговых и прикладных систем после настройки, а также для подготовки синтетических данных. В карточке семейства заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой базовой версии README не заявляет оптимизацию под диалоговые сценарии: она отличается от instruction-tuned вариантов, которые обучались с SFT и RLHF. Разработчик — Meta. Для использования действует специальная коммерческая лицензия Llama 3.1 Community License и Acceptable Use Policy. Модель обучена на статическом наборе данных; качество и безопасность генерации могут различаться между языками, а применение на языках за пределами восьми заявленных требует дополнительной настройки и мер контроля.

Это объединённая модель генерации текста семейства Llama 3.1, созданная с помощью mergekit путём линейного слияния unsloth/Meta-Llama-3.1-8B и unsloth/Meta-Llama-3.1-8B-Instruct. В модели около 7,5 млрд параметров; она построена на архитектуре LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет до 131 072 токенов; в метаданных также отмечен интерфейс вызова инструментов. Карточка не уточняет языковой охват и отдельные области применения, поэтому модель следует рассматривать как универсальную. Лицензия в предоставленных данных не указана. Качество слияния и сравнительные результаты не описаны; возможности вызова инструментов обозначают наличие интерфейса и не гарантируют надёжность выполнения каждого вызова.

bunnycore выпустила Llama-3.1-8B-OmniMatrix — чат-модель для генерации текста, созданную слиянием нескольких моделей семейства Llama 3.1 с помощью mergekit и метода task arithmetic. В основу слияния вошли arcee-ai/Llama-3.1-SuperNova-Lite и grimjim/Llama-3-Instruct-abliteration-LoRA-8B; также объединены bunnycore/LLama-3.1-8B-HyperNova-abliteration, bunnycore/StockLLama-3.1-8B и v000000/L3.1-Storniitova-8B. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекстное окно до 131 072 токенов. Она предназначена для диалогов и генерации текста по инструкциям; карточка указывает библиотеку Transformers и формат safetensors. В метаданных нет сведений о специальной предметной области или лицензии, поэтому условия лицензирования здесь описать нельзя.

Dampfinchen/Llama-3.1-8B-Ultra-Instruct — объединённая разговорная языковая модель на архитектуре Llama 3.1, созданная автором репозитория с помощью mergekit и метода DARE TIES. В основе объединения лежит NousResearch/Meta-Llama-3.1-8B; также использованы Llama-3.1-Storm-8B, llama3.1-airoboros3.2-QDT-8B, llama3.1-gutenberg-8B и Llama-3.1-8B-Stheno-v3.4. Модель предназначена для диалоговой генерации текста и выполнения инструкций с шаблоном Llama 3 Instruct. Она содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. В карточке приведены результаты оценки, включая 80,81 балла на IFEval (0-shot), однако подробные выводы о качестве для отдельных сценариев из этих данных сделать нельзя. Модель распространяется по лицензии Llama 3.1. Автор рекомендует использовать её с осторожностью; применяются условия и ограничения лицензии исходного семейства.

unsloth/Llama-3.2-11B-Vision-Instruct-bnb-4bit — 4-битная версия мультимодальной инструкционно-настроенной модели Meta Llama 3.2 Vision с примерно 11 млрд параметров. Репозиторий подготовлен Unsloth и предназначен для использования с Transformers; базовая модель — meta-llama/Llama-3.2-11B-Vision-Instruct. Архитектура семейства основана на авторегрессионном оптимизированном Transformer с Grouped-Query Attention, а инструкционные версии обучались с применением supervised fine-tuning и RLHF. Модель предназначена для диалоговых сценариев и задач, требующих работы с текстом и изображениями, включая визуальное понимание и генерацию ответов по пользовательским инструкциям. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения на ограниченных GPU-ресурсах. К сильным сторонам относятся мультимодальность, инструкционное поведение и экономичное по памяти 4-битное квантование. README не содержит точных сведений о размере контекста, формате визуального входа, бенчмарках и ограничениях качества, поэтому эти характеристики требуют проверки в исходной карточке Meta. Модель является статической и обучена на офлайн-данных. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta, а также Acceptable Use Policy.