I.3Извлечение и структурирование данных

EXAONE-3.5-2.4B-Instruct-GGUF — инструкционная языковая модель семейства EXAONE 3.5, разработанная LGAI-EXAONE. Представленная версия является GGUF-квантизацией исходной модели EXAONE-3.5-2.4B-Instruct, выполненной bartowski на базе llama.cpp. Размер модели — 2,4 млрд параметров; поддерживаются английский и корейский языки, максимальная длина контекста составляет 32 тысячи токенов. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, решения математических задач и программирования. Согласно README, она демонстрирует высокое качество следования инструкциям и сильные результаты среди моделей с сопоставимой длиной контекста. Формат GGUF и совместимость с llama.cpp делают её подходящей для локального запуска в приложениях и средах, поддерживающих этот формат. Ограничения включают относительно небольшой размер, поддержку только заявленных английского и корейского языков, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей. Модель распространяется по лицензии EXAONE; в метаданных она обозначена как other, а подробные условия доступны в файле LICENSE.

Это инструктивно настроенная причинная языковая модель для генерации текста и диалогов в формате чата. Репозиторий разработан latent-artist; модель построена на архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для ответов на запросы и ведения диалога через текстовые промпты. В метаданных также отмечен интерфейс для вызова инструментов. Она принимает текст и генерирует текст; заявленная длина контекста составляет 32 768 токенов, а карточка указывает английский язык. Веса доступны в формате safetensors, для загрузки рекомендуется библиотека Transformers. Лицензия — Apache-2.0. Карточка не сообщает результатов оценки качества или специальных ограничений применения.

FineLlama-3.1-8B-fiftycore-V1 — языковая модель компании fiftycore, созданная дообучением unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с помощью Unsloth и библиотеки Hugging Face TRL. Модель семейства Llama с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста и диалогового взаимодействия; также заявлен интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Для неё указано контекстное окно до 131 072 токенов, а среди языковых меток карточки указан английский. Репозиторий содержит веса PyTorch. Лицензия — Apache-2.0.

FwF-Qwen-7B-0.2 — языковая модель на архитектуре Qwen2, созданная bunnycore линейным слиянием четырёх моделей, ориентированных на рассуждения, длительное пошаговое мышление, ролевой диалог и универсальные задачи. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; метаданные также отмечают интерфейс вызова инструментов. Нативная длина контекста — 32 768 токенов. Модель подходит для диалоговых приложений, следования инструкциям и многошаговых задач, где полезно сочетание компонентов с разными специализациями. В README приведены результаты оценивания на IFEval и BBH, однако они сами по себе не гарантируют качество на пользовательских сценариях. Лицензия в предоставленных данных не указана.

GeeVec-Embeddings-1.0-Lite — компактная мультиязычная модель текстовых эмбеддингов от geevec-ai на базе модели в стиле Qwen3 с архитектурой PseudoMoE. В метаданных указано 306,6 млн параметров; README заявляет 0,35 млрд активируемых параметров. Модель предназначена для поиска по смыслу и сопоставления запросов с текстами, поддерживает контекст до 40 960 токенов по метаданным. Модель предлагает маршруты general для общего мультиязычного поиска, coding для поиска по коду и технической документации и reasoning для сложных запросов, требующих глубокого семантического сопоставления. Она преобразует текст в эмбеддинги, которые можно нормализовать и сравнивать для ранжирования релевантности. В примере README используется длина до 4096 токенов. Для загрузки требуется доверять пользовательскому коду репозитория через trust_remote_code=True. Репозиторий использует формат safetensors и распространяется по лицензии Apache-2.0. Заявления README о высоких результатах на бенчмарках не сопровождаются в предоставленном тексте числовыми результатами; качество на конкретных данных следует проверять отдельно.

Gemma-2-27B-it-SimPO-37K-100steps-GGUF — набор GGUF-квантизаций модели AALF/gemma-2-27b-it-SimPO-37K-100steps, подготовленный пользователем bartowski с помощью llama.cpp и imatrix. Это текстовая instruction-tuned модель для генерации ответов по запросам, диалога и других задач обработки текста; запуск предусмотрен через llama.cpp и совместимые приложения, включая LM Studio. Модель имеет заявленный размер 27 млрд параметров и поставляется в вариантах от F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Более точные варианты обеспечивают лучшее сохранение качества, но требуют больше памяти; компактные варианты подходят для систем с ограниченным объёмом RAM, при этом качество снижается. Для ARM доступны специальные варианты Q4_0, требующие поддержки соответствующих инструкций процессора. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности и результаты оценивания. К сильным сторонам относятся широкий выбор размеров файлов, возможность локального запуска и применение imatrix-квантования, а также наличие высококачественных вариантов Q6_K_L и Q6_K. Ограничения связаны с существенными требованиями к памяти у крупных вариантов и неизбежной потерей качества при сильном квантовании; сравнительные показатели и область наилучшего применения не приведены. Модель распространяется по лицензии Gemma.

gemma-3-12b-it-heretic — модифицированная версия Google Gemma 3 12B Instruct, опубликованная пользователем saidutta69 и созданная с помощью Heretic 1.4.0. Модель предназначена для локальных агентов, диалоговых приложений, генерации текста, ответов на вопросы по изображениям и исследований механизмов выравнивания и отказов моделей. Она сохраняет мультимодальность базовой модели: работает с текстом и изображениями; заявлен английский язык. Модель рассчитана на запуск через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Это модель примерно на 12,2 млрд параметров с архитектурой Gemma 3 и поддержкой инструкций. Вариант heretic получен не дообучением, а направленным редактированием весов attention output-проекций и MLP down-проекций методом abliteration. Цель изменения — подавить поведение, связанное с отказами, сохранив знания и следование инструкциям базовой модели. Для запуска рекомендуются GPU с 16–24 ГБ памяти; доступны полновесные BF16-файлы и GGUF-квантизации Q4_K_M и Q5_K_M. Точный размер контекстного окна в README не указан. По заявленным тестам, модель отказала в 40 из 100 проверочных adversarial-запросов против 99 отказов у базовой Gemma 3 12B Instruct; KL-дивергенция относительно базы составила 0,1006. Сильной стороной является сочетание мультимодальных возможностей Gemma 3 с существенно сниженным количеством отказов. Ограничения включают неполное устранение отказов, более широкое изменение поведения по сравнению с некоторыми другими abliteration-моделями, унаследованные от базовой модели фактические ограничения и смещения, а также отсутствие дополнительной фильтрации безопасности. README предупреждает о рисках неограниченного публичного развертывания. Лицензия — Gemma, унаследованная от базовой модели; условия приведены в связанной лицензии Google.

Это квантизированная версия Gemma 3 12B IT, разработанная Google и преобразованная пользователем nocturne23 в формат GGUF с помощью llama.cpp и инструмента GGUF-my-repo. Модель предназначена для запуска через llama.cpp в CLI-режиме или как сервер для генерации ответов и выполнения задач, поддерживаемых исходной инструкционной моделью. Известно, что модель основана на google/gemma-3-12b-it и имеет размер 12 миллиардов параметров. Вариант Q4_K_M использует 4-битную квантизацию, что уменьшает требования к памяти по сравнению с полной версией, но может снижать точность. В метаданных указана мультимодальная задача image-text-to-text, однако подробные сведения о поддерживаемых языках, длине контекста, архитектуре и возможностях работы с изображениями в README отсутствуют. В качестве ограничения также следует учитывать зависимость от llama.cpp и необходимость настройки под используемое оборудование. Для доступа и использования модели требуется принять лицензию Google Gemma на Hugging Face; в README лицензия обозначена как gemma. Условия коммерческого и иного применения следует проверять в исходной лицензии Google и оригинальной карточке модели.

Granite-20B-Code-Instruct-r1.1 — языковая модель IBM Research с 20 млрд параметров на архитектуре GPTBigCode, дообученная для следования инструкциям по программированию. Она предназначена для создания кодовых ассистентов и ответов на запросы о коде; также обучалась на данных по математике, решению задач, SQL и вызову функций. Модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. В репозитории веса представлены в формате Safetensors. Модель обучалась на наборах данных с кодом, инструкциями, математикой и оценками качества ответов. Она может помогать писать и объяснять код, решать математические задачи, создавать SQL-запросы и формировать вызовы API. Её результаты могут быть слабее для языков программирования, не охваченных обучающими данными; перед применением в критичных сценариях IBM рекомендует проводить проверки безопасности и настройку под конкретную задачу. Лицензия — Apache 2.0.

Это квантованная версия Granite 3.0 2B Instruct — инструкционно настроенной языковой модели, разработанной IBM под именем ibm-granite/granite-3.0-2b-instruct. Репозиторий MaziyarPanahi/granite-3.0-2b-instruct-GGUF содержит файлы модели в формате GGUF, предназначенные для локального запуска и совместимые с экосистемой llama.cpp. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые и другие сценарии текстовой обработки. Доступны варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Формат поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов, включая решения с GPU-ускорением. Из предоставленных данных не указаны точное устройство архитектуры, размер контекстного окна, поддерживаемые языки, результаты тестирования и конкретные ограничения качества. Лицензия в README также не указана, поэтому условия использования следует уточнять в исходном репозитории базовой модели IBM и в материалах данного репозитория.

Granite 4.2 8B GGUF — это квантизированная версия текстовой генеративной модели ibm-granite/granite-4.2-8b, разработанной IBM. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев, задач рассуждения и, согласно указанным тегам, tool calling. Поддерживается только текстовый ввод; мультимодальные возможности не заявлены. Модель содержит около 9 млрд параметров и доступна в форматах GGUF с разными уровнями квантизации — от BF16 до Q2 и IQ-вариантов. README не указывает архитектуру и размер контекстного окна. Заявлена поддержка английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского языков. Для запуска используется специальный шаблон prompt с секцией рассуждений <think>. Сильная сторона этой версии — широкий выбор квантизаций, позволяющий подобрать баланс между качеством, скоростью и требованиями к памяти: например, Q4_K_M размером 5,54 ГБ рекомендуется как универсальный вариант, а более высокие уровни сохраняют качество ближе к исходной модели. Ограничения зависят от выбранной квантизации: компактные варианты обеспечивают более низкое качество. Спекулятивное декодирование не поддерживается. Модель распространяется по лицензии Apache 2.0.

Human-Like-LLama3-8B-Instruct-GGUF — это 8-миллиардная текстовая instruction-модель семейства Llama 3, разработанная HumanLLMs на основе Humanish-LLama3-8B-Instruct. Данная версия опубликована в формате GGUF и квантизирована bartowski с использованием llama.cpp и метода imatrix. Обучение или дообучение модели связано с набором данных humanish-dpo-project и методом DPO. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и иных текстовых сценариях. В README приведены результаты оценивания на IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако показатели заметно различаются между задачами, поэтому их следует рассматривать как ориентиры, а не гарантию качества в конкретном применении. Мультимодальность, поддерживаемые языки, размер контекстного окна и рекомендуемый формат промптов в карточке не указаны. Доступно несколько вариантов квантизации от F16 до Q3_K_XL. Более высокие варианты обычно лучше сохраняют качество, но требуют больше памяти; Q4_K_M указан как вариант стандартного размера, а Q5 и Q6 — как высококачественные варианты. Ограничения включают отсутствие описания prompt format и неполную информацию о языках, контексте и поведении модели. Лицензия указана как llama3.

Instruct Mixtral 8X7B V0.1 Dolly15K — это инструкционная языковая модель на архитектуре Mixtral, дообученная компанией Brillibits на наборе данных databricks-dolly-15k. Представленная версия распространяется в формате GGUF и подготовлена TheBloke с использованием квантования. Модель предназначена для генерации текста по инструкциям и может использоваться в локальных приложениях для диалога, ответов на вопросы и других задач text-generation. В названии указано 8 экспертов по 7B параметров, однако README не содержит дополнительных сведений о фактическом числе активируемых параметров, размере контекста, языках и поддерживаемых модальностях. Доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат совместим с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All и LM Studio. Сильной стороной модели является возможность локального запуска на CPU и GPU благодаря GGUF и нескольким уровням квантования. Ограничения включают возможные потери качества при сильном квантовании, а также отсутствие в README подробных результатов оценки и характеристик производительности. Лицензия модели — Apache-2.0.

hku-nlp/instructor-base — универсальная модель эмбеддингов на архитектуре T5, разработанная командой HKU NLP. Она преобразует текстовые фрагменты, включая заголовки, предложения и документы, в векторы фиксированной длины без дополнительного обучения. Инструкции на входе позволяют настраивать представления под предметную область, например науку или финансы, и под задачу, например классификацию или информационный поиск. Модель предназначена для построения текстовых эмбеддингов и вычисления сходства между предложениями или группами текстов. Она имеет 123,8 млн параметров, принимает текст на английском языке и поддерживает контекст до 512 токенов. Доступна в формате PyTorch и по лицензии Apache-2.0. Карточка описывает простой сценарий использования через библиотеку sentence-transformers; специализированные результаты зависят от инструкций, заданных при формировании эмбеддингов.

InternLM3-8B-Instruct-GGUF — это 8-миллиардная instruction-модель семейства InternLM, опубликованная командой InternLM и представленная в формате GGUF. Данный набор квантованных версий подготовлен bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая запуск локально через llama.cpp или LM Studio. Формат prompt не указан, поэтому для корректного применения следует обратиться к странице исходной модели. Доступны варианты от полноточных F32 и F16 до квантований Q8, Q6, Q5, Q4, Q3 и Q2, размером примерно от 3,82 до 35,22 ГБ. Квантованные версии снижают требования к памяти, сохраняя различный уровень качества; README рекомендует несколько вариантов Q6, Q5 и Q4 как оптимальные по соотношению качества и размера. Сведения о поддерживаемых языках, длине контекста, модальностях и конкретной архитектуре в README не приведены. Модель распространяется под лицензией Apache-2.0.

jinaai/jina-embeddings-v2-base-es — двуязычная модель эмбеддингов текста от Jina AI для испанского и английского языков. Она предназначена для получения векторных представлений предложений и документов в моноязычных и межъязыковых сценариях, включая поиск по смыслу, сопоставление текстов и RAG. Модель построена на архитектуре JinaBERT с 160,1 млн параметров. Симметричная двунаправленная версия ALiBi позволяет обрабатывать последовательности длиной до 8192 токенов. Для получения эмбеддингов предложений и документов README рекомендует применять mean pooling. Модель поддерживает смешанный испанско-английский ввод и подходит для поиска и сопоставления текстов между этими языками. Она принимает текст и выдаёт векторные представления. Лицензия — Apache-2.0.

jina-embeddings-v5-text-nano-retrieval-GGUF — мультиязычная модель эмбеддингов для задач семантического поиска и retrieval, разработанная Jina AI. Это GGUF-квантизация модели jina-embeddings-v5-text-nano-retrieval с поддержкой llama.cpp, предназначенная для эффективного локального или управляемого инференса. Модель содержит 239 млн параметров и преобразует текст в векторы размерностью 768. Она использует pooling по последнему токену и поддерживает Matryoshka Dimensions 32, 64, 128, 256, 512 и 768, что позволяет выбирать компромисс между качеством, размером индекса и скоростью поиска. Модель ориентирована на мультиязычные сценарии, однако конкретный набор языков в README не указан. Модель подходит для семантического поиска, построения retrieval-компонентов и других задач сравнения текстов, где требуется сопоставлять запросы и документы по смыслу. К преимуществам относятся компактный размер, квантизация для эффективного инференса и возможность использования с llama.cpp. Ограничение состоит в том, что это специализированная модель эмбеддингов для retrieval, а не генеративная языковая модель; точные показатели качества, максимальная длина контекста и поддерживаемые языки в README не приведены. Модель распространяется по лицензии CC-BY-NC-4.0, которая ограничивает коммерческое использование. Для коммерческого применения разработчик предлагает связаться с Jina AI.

K2-Horizon-7B-GGUF — это набор общественных GGUF-квантизаций модели K2-Horizon-7B, разработанной IFM. Данный репозиторий подготовлен сообществом и предназначен для запуска модели локально через llama.cpp. Релиз является только квантизированной конверсией: обучение, дообучение, объединение моделей и иные изменения весов не выполнялись. Исходная модель представляет собой плотную reasoning-модель с 7B параметров и заявленным контекстом до 524 288 токенов. Она ориентирована на генерацию текста, рассуждения, программирование, работу на английском и китайском языках, обработку длинного контекста и agentic-сценарии. В набор входят варианты квантизации от Q8_0 до Q1_0, позволяющие выбирать компромисс между требованиями к памяти и близостью поведения к BF16-версии. По проведённому пилотному тесту Q4_K_M является практичной отправной точкой для локального использования, а Q5_K_M и Q6_K лучше сохраняют поведение исходной модели; более компактные варианты требуют проверки на целевой задаче. Модель поддерживает запуск и проверку генерации в llama.cpp, однако авторы этого релиза отдельно отмечают, что tool calling и полный upstream-набор бенчмарков повторно не оценивались, а включённый шаблон чата не является сертифицированным полным tool-aware шаблоном. Результаты проверки измеряют близость следующего токена к BF16 и не являются прямой оценкой сохранённых прикладных возможностей. Распространение выполняется по Apache License 2.0 с сохранением атрибуции и лицензии; релиз не является официальной публикацией или одобрением IFM.

RedHatAI/Kimi-K3-FP8-BLOCK — квантованная версия мультимодальной модели moonshotai/Kimi-K3, разработанная RedHatAI. Модель построена на архитектуре KimiK3ForConditionalGeneration, принимает текст и изображения, а генерирует текст. Она предназначена для conversational-сценариев и инференса с использованием vLLM; подробные возможности базовой модели в этой карточке не раскрыты. В модели применена FP8-квантизация весов и активаций линейных операторов внутри трансформерных блоков. Для весов используется блочное масштабирование, для активаций — динамическое групповое масштабирование. Квантизация выполнена методом model-free post-training quantization без калибровочных данных с помощью LLM Compressor; при этом слои эмбеддингов, attention, vision tower, mm_projector и некоторые другие компоненты не квантуются. Модель готова к распределённому запуску в vLLM и поддерживает автоматический выбор инструментов и разбор рассуждений через соответствующие параметры сервера. Размер модели, длина контекста и поддерживаемые языки в README не указаны. Веса и код распространяются по лицензии Kimi K3 License.

Карточка модели ronaldmannak/LFM2.5-Embedding-350M-4bit на Hugging Face совпадает с карточкой mlx-community/LFM2.5-Embedding-350M-4bit, поэтому описание составлено по ней. LFM2.5-Embedding-350M-4bit — 4-битная MLX-сборка мультиязычной плотной двунаправленной модели-энкодера Liquid AI. Она преобразует запросы и документы в 1024-мерные векторы; косинусное сходство между ними подходит для семантического поиска и сопоставления предложений, включая поиск между языками. Модель предназначена для локального запуска на устройствах Apple Silicon с MLX. В репозитории веса переведены из формата PyTorch/safetensors в MLX и квантованы до 4 бит с аффинной схемой и размером группы 64. В README указано, что на наборе из восьми оценённых датасетов качество поиска сохранилось близким к bf16-версии: среднее удержание NDCG@10 составило 100%, Recall@10 — 98,6%. Оценка для мультиязычных наборов проводилась на сокращённых пулах документов, поэтому абсолютные результаты нельзя напрямую сравнивать с результатами на полных корпусах. Метаданные указывают 444,6 млн параметров и контекст до 128 000 токенов. Поддерживаемые языки включают английский, испанский, немецкий, французский, итальянский, португальский, арабский, шведский, норвежский, японский и корейский. Лицензия отмечена как other; конкретные условия следует сверить с карточкой базовой модели LiquidAI/LFM2.5-Embedding-350M.

Linkbricks-Horizon-AI-Korean-Advanced-70B — корейская языковая модель, дообученная специалистом Linkbricks Джи Юнсоном (Saxo) на базе Hermes-3-Llama-3.1-70B. Это плотная causal language model семейства Llama с 69,5 млрд параметров; для обучения использованы continued pretraining, SFT и DPO, при этом токенизатор оставлен без изменений. Модель поддерживает контекст до 131 072 токенов и доступна в форматах Safetensors и GGUF. Модель предназначена для диалогов и генерации текста, особенно на корейском языке. Среди заявленных сценариев — перевод между корейским, английским, китайским и японским языками, суммаризация, анализ отзывов и публикаций в соцсетях, программирование, математика и логические задачи. Также заявлена поддержка вызова инструментов и функций на корейском языке. Обучение включало корейские новостные корпуса и наборы данных для перевода, суммаризации, вопросов и ответов, анализа тональности и инструкций. Модель может быть полезна для корейскоязычных задач, однако карточка не приводит независимых оценок качества. Распространяется по лицензии Apache-2.0.

Модель Linkbricks Horizon AI Korean Superb 27B разработана дата-сайентистом компании Linkbricks Джи Юнсоном (Saxo) на основе Google Gemma 2 27B Instruct. Это плотная причинно-следственная языковая модель Gemma 2 с 27,6 млрд параметров, дообученная на корейском языке этапами продолженного предобучения, обучения по инструкциям и DPO. Для обучения использовались крупный корпус корейских новостей, многоязычные данные и примеры для различных задач; токенизатор оставлен от базовой модели. Модель предназначена для диалогов и генерации текста, включая перевод между корейским, китайским, английским и японским языками, суммаризацию, ответы на вопросы, анализ отзывов и публикаций в соцсетях, программирование, письмо, математику и логические рассуждения. Метаданные указывают контекст 8192 токена; в README заявлено окно 128k, поэтому фактическую поддержку столь длинного контекста следует проверять в используемой конфигурации. Модель распространяется под лицензией Apache-2.0.

Lite-Whisper large-v3-turbo — сжатая версия мультиязычной модели OpenAI Whisper, разработанная с использованием LiteASR. Модель предназначена для автоматического распознавания речи и преобразования аудио в текст. По метаданным, она основана на openai/whisper-large-v3-turbo, содержит 905,2 млн параметров и использует архитектуру LiteWhisperForConditionalGeneration; опубликована в формате safetensors и работает через Transformers. В карточке приведены результаты оценки на наборах ESB: варианты Lite-Whisper показывают средний WER 10,1–10,2. Метаданные указывают лицензию Apache-2.0. Поддерживаемые языки и длина контекста в предоставленных источниках не перечислены.

Llama-Chat-Summary-3.2-3B — языковая модель PrithivMLmods для контекстной суммаризации диалогов и текстов. Она дообучена на базе meta-llama/Llama-3.2-3B-Instruct и предназначена для создания кратких сводок с сохранением важных деталей из длинных чатов, обсуждений и документов. Модель имеет плотную архитектуру LlamaForCausalLM на 3,2 млрд параметров, принимает текст и генерирует текст. В карточке указана поддержка контекста до 131 072 токенов; модель рассчитана прежде всего на английский язык. Она может пригодиться для сводок обращений в поддержку, стенограмм встреч, статей и отчётов, а также для подготовки контекста для последующих систем. Карточка не приводит количественных оценок качества или подробностей обучения. Для работы с ней автор рекомендует Transformers; отмечено, что для развёртывания следует использовать выделенные эндпоинты, поскольку модель пока не подходит для serverless API. Лицензия — CreativeML Open RAIL-M.

Locai L1-Large — диалоговая языковая модель Locai Labs, дообученная на базе Qwen3-235B-A22B-Instruct-2507 методом постобучения Forget-Me-Not. Это модель семейства Qwen3 MoE с 18,2 млрд параметров и контекстом до 262 144 токенов; веса опубликованы в формате safetensors. Она предназначена для генерации ответов и следования инструкциям, а также подходит для математических и научных рассуждений. Разработчики сообщают об улучшении следования инструкциям и устойчивости к вредоносным запросам, сохраняя при этом математические и научные способности базовой модели. Модель поддерживает несколько языков; отдельно заявлено улучшение для валлийского, ирландского, шотландского гэльского, баскского, армянского, тагальского и суахили. Для модели указана лицензия Apache-2.0. Заявленные в карточке результаты бенчмарков приведены разработчиками и сами по себе не гарантируют аналогичного качества на пользовательских задачах.

Lorenzo-8B-Merge — генеративная языковая модель для продолжения и создания текста, опубликованная пользователем qingy2024 на Hugging Face. Модель предназначена для использования через библиотеку Transformers и относится к семейству Llama согласно метаданным. В карточке модели не приведены сведения о точной архитектуре слияния, исходных моделях, разработчиках, обучающих данных и методике обучения. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она может применяться для генерации ответов, написания и продолжения текстов, диалоговых сценариев и построения приложений на базе больших языковых моделей. Лицензия, поддерживаемые естественные языки, результаты оценки, рекомендуемые параметры запуска и специализированные ограничения в карточке не указаны. Перед использованием в продуктивных системах следует самостоятельно проверить качество на целевых данных, устойчивость к ошибкам и условия распространения.

Lucie-7B-Instruct-v1.1 — французско-английская инструктивная языковая модель OpenLLM-France, дообученная на базе Lucie-7B. Это плотная каузальная архитектура семейства Llama с 6,4 млрд параметров; модель принимает текст и генерирует ответы в диалоговом формате. Она предназначена для общения и выполнения общих инструкций, например ответов, кратких изложений и списков. В обучающую смесь вошли франкоязычные, англоязычные и двуязычные наборы инструкций, включая Alpaca-cleaned-fr, Croissant-Aligned-Instruct, FLAN v2 и OpenHermes 2.5. Модель обучалась на последовательностях длиной 4096 токенов; в README сообщается об эффективном контекстном окне около 22 тысяч токенов, а метаданные указывают базовый контекст в 32 тысячи токенов. Инструктивное дообучение описано как лёгкое: для специализированных сценариев, включая программирование и математические задачи, может потребоваться дополнительная настройка. Модель склонна к галлюцинациям и имеет ограниченный объём запоминаемых фактов; для ответов по актуальным или конкретным источникам может помочь RAG. Лицензия — Apache-2.0.

Sowmen123 разработал эту плотную авторегрессионную модель семейства Llama, дообучив Meta-Llama-3.1-8B-Instruct на задачи следования инструкциям и диалогового общения. Репозиторий содержит веса PyTorch; модель насчитывает 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Для ускорения обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста: она подходит для диалогового ассистента, ответов на инструкции, создания текстов и суммаризации. В карточке заявлен английский язык; доступны чатовый интерфейс и интерфейс вызова инструментов. Модель распространяется по лицензии Apache-2.0.

nm-testing/Meta-Llama-3-8B-Instruct-W8-Channel-A8-Dynamic-Asym-Per-Token-Test — тестовый квантованный вариант Meta Llama 3 8B Instruct, размещённый организацией NM Testing; исходную модель разработала Meta. Репозиторий предназначен для генерации текста и диалоговых сценариев и поддерживает использование через Transformers, vLLM и SGLang. Суффикс W8-Channel-A8-Dynamic-Asym-Per-Token указывает на 8-битное представление весов и динамическое асимметричное квантование активаций по токенам; точные характеристики реализации квантования и результаты её оценки в карточке модели не описаны. Базовая модель представляет собой авторегрессионный языковой model с оптимизированной архитектурой Transformer и Grouped-Query Attention, содержит около 8 млрд параметров, принимает только текст и генерирует текст и код. Контекст составляет 8 тысяч токенов, модель ориентирована прежде всего на английский язык и диалог с инструкциями. Она подходит для чат-ассистентов, генерации и обработки текста, но является статической моделью с ограниченным актуальным знанием и не поддерживает мультимодальный ввод. Квантованный вариант может снизить требования к памяти и повысить эффективность инференса, однако по доступным данным нельзя надёжно оценить влияние именно этой тестовой конфигурации на качество, скорость и совместимость. Для исходной Meta Llama 3 действует специальная коммерческая лицензия Meta Llama 3 Community License с ограничениями по распространению, допустимому использованию и политике безопасности; применимость этих условий к квантованному производному варианту следует проверять отдельно.

amd/MiniMax-M3-MXFP4-AttnFP8 — мультимодальная модель условной генерации MiniMaxM3SparseForConditionalGeneration, созданная AMD на основе MiniMaxAI/MiniMax-M3. Она принимает текст и изображения и генерирует текст, поэтому предназначена для мультимодального диалога, анализа изображений, агентских сценариев, задач программирования и работы с видео при наличии соответствующей интеграции. Поддерживаются функции вызова инструментов и рассуждений через vLLM. Модель использует разреженную MoE-архитектуру и оптимизирована для AMD MI350/MI355 с ROCm 7.1.1, PyTorch 2.10.0 и Transformers 5.2.0 в Linux. Веса квантизированы в формате OCP MXFP4, а слои self-attention — в PTPC-FP8; активации используют динамическое квантование MXFP4 и FP8 для self-attention. Языки и размер контекста в README не указаны. На тесте GSM8K модель получила 94,01 против 95,30 у исходной MiniMaxAI/MiniMax-M3, что соответствует восстановлению 98,65% исходного результата. Основные ограничения — требовательность к поддерживаемому оборудованию и программному стеку AMD, а также отсутствие в README подробных оценок мультимодальных возможностей, языковой поддержки и контекстного окна. Указана лицензия minimax-community; применяется лицензия с типом other.