I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельGATE-AraBert-v0 — арабская модель эмбеддингов предложений на базе Sentence Transformers, разработанная Omartificial-Intelligence-Space. Она дообучена в многозадачном режиме на AllNLI и наборах STS для представления арабских текстов в виде векторов и оценки их семантического сходства. Модель использует архитектуру BERT, содержит 162,4 млн параметров и выдаёт эмбеддинги размерностью 768; максимальная длина входной последовательности — 512 токенов. Для сравнения векторов применяется косинусное сходство. Модель подходит для семантического поиска, поиска похожих предложений и ранжирования текстов по смысловой близости. В README приведены результаты оценки сходства на sts-dev и sts-test. Репозиторий распространяется в формате safetensors; сведения о лицензии в доступных данных отсутствуют.
Gemma-2-2b-All-in-One — объединённая разговорная языковая модель семейства Gemma 2, созданная bunnycore с помощью mergekit и метода Model Stock. В основе объединения лежит IlyaGusev/gemma-2-2b-it-abliterated; также включены модели и адаптеры для смешанных задач, кода и диалогов. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и помощи с кодом. В метаданных указана поддержка чата и текстовой генерации; дополнительных входных модальностей не заявлено. Карточка не перечисляет языки, поэтому нельзя определить приоритетный язык. Веса опубликованы в формате safetensors и имеют тип bfloat16. Результат слияния объединяет несколько моделей с разными настройками и возможностями, поэтому качество может различаться в зависимости от задачи. Лицензия в предоставленных данных не указана.
Это GGUF-представление Gemma-4-12B-it-AEON-Abliterated-K4-BF16 от mradermacher, подготовленное как набор статических квантованных файлов. Базовая модель — дообученная AEON-7 версия Gemma-4-12B-it; в её описании каталога указано удаление отказов. Репозиторий предназначен для запуска модели в совместимом с GGUF программном обеспечении. Модель используют для диалоговой генерации текста и следования инструкциям; метаданные также указывают на английский язык, чат и работу с кодом, рассуждениями и инструментами в базовом варианте. README перечисляет несколько вариантов квантизации, включая Q2_K и Q3_K, с разными размерами и компромиссами качества. Доступный вариант обозначен как GGUF BF16. Лицензия — Gemma; перед использованием следует учитывать её условия.
AMD разработала эту модель как 4-битную квантизированную версию Gemma 4 12B IT от RedHatAI. Она предназначена для генерации текста и CPU-инференса на процессорах AMD EPYC, прежде всего в Linux-среде с использованием vLLM и оптимизаций ZenDNN. Указанный язык — английский. Модель построена на архитектуре Gemma4UnifiedForConditionalGeneration и имеет размер 12 миллиардов параметров в исходной версии. Для весов применяется GPTQ-квантизация W4A16: веса хранятся в формате INT4, симметрично и по группам размера 128, а активации остаются в BF16. Визуальные и аудиокомпоненты, мультимодальный проектор и lm_head сохранены в BF16, однако в карточке явно описан сценарий с текстовым вводом и выводом. Калибровка выполнена на 128 примерах датасета ultrachat_200k при максимальной длине последовательности 2048 токенов; в конфигурации оценки использовался максимальный контекст 4096 токенов. Ключевое преимущество модели — снижение требований к памяти и возможность оптимизированного инференса на AMD CPU при сохранении высокой близости к BF16-базовой версии: на GSM8K она получила 0,9249 против 0,9401 у BF16, то есть восстановила 98,38% результата. Ограничения связаны с зависимостью от конкретного программного стека и аппаратной платформы: заявлена совместимость с AMD EPYC, ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0, LLM Compressor 0.12.0 и vLLM 0.26.0. Для оптимальной производительности требуется настройка OpenMP через LD_PRELOAD. Модель распространяется по лицензии Gemma.
Geneva 12B GammaCorpus v2-1m — диалоговая языковая модель rubenroy, дообученная на Mistral-Nemo-Instruct-2407 с использованием корпуса структурированных и отфильтрованных многоходовых диалогов GammaCorpus v2-1m. Она предназначена для генерации текста, ведения беседы и выполнения инструкций; интерфейс модели также поддерживает вызов инструментов. Модель построена на плотной архитектуре Mistral, содержит 12,1 млрд параметров и использует 40 слоёв, группированные запросы внимания (GQA) и вращательные позиционные эмбеддинги. Заявленная длина контекста — 1 024 000 токенов. В метаданных перечислена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель работает с текстом и доступна в формате safetensors через Transformers. Лицензия — Apache-2.0. README предупреждает о возможности предвзятых ответов; фактическое качество на конкретных задачах следует проверять отдельно.
ZuzeTt/GLM-4.6V-Flash-heretic-Imatrix-GGUF — пользовательская модификация мультимодальной модели GLM-4.6V-Flash, первоначально разработанной организацией zai-org. Данная версия создана AlexH с использованием Heretic 1.1.0 и не является официальным релизом zai-org. Модель предназначена для локального развертывания и приложений с низкой задержкой. Модель относится к семейству GLM-V и имеет около 9 млрд параметров. Она работает с текстом и изображениями, включая документы, скриншоты, таблицы, графики и веб-интерфейсы. Заявлена поддержка контекста до 128 тысяч токенов, мультимодального понимания документов, native Function Calling, генерации смешанного текстово-визуального контента, восстановления HTML/CSS по скриншотам и визуального редактирования. В метаданных указаны китайский и английский языки. Ключевая особенность этой версии — decensored-модификация, направленная на снижение количества отказов и повышение отклика в сложных или нестандартных сценариях. В приведённом сравнении модель отказала в 63 из 100 тестовых случаев против 100 из 100 у исходной модели; при этом README не описывает методику тестирования. Ограничения связаны с неофициальным характером модификации, возможными отличиями в поведении и отсутствием подробных данных о качестве после изменений. В качестве лицензии указана MIT.
GPT-5.2 Chat, также называемая Instant, — быстрая облегчённая модель семейства GPT-5.2, оптимизированная для диалогов с низкой задержкой и сохраняющая широкие интеллектуальные возможности. В описании упоминается адаптивное рассуждение, которое модель использует выборочно. Модель предназначена для диалогового взаимодействия и широкого круга задач общего назначения. Доступный текст карточки обрывается, поэтому подробности о модальностях, языках, размере, контексте, лицензии и конкретных сценариях применения установить нельзя.
ChristianAzinn/gte-large-gguf — это квантизированная GGUF-версия модели gte-large, разработанной Alibaba DAMO Academy и опубликованной thenlper. Репозиторий подготовил ChristianAzinn; исходная модель построена преимущественно на архитектуре BERT и распространяется как модель для создания текстовых эмбеддингов. Модель предназначена для информационного поиска, оценки семантического сходства текстов, reranking и других задач, где требуется сопоставление текстовых представлений. Она обучалась на крупном корпусе релевантных пар текстов из различных предметных областей. Указан английский язык, максимальная длина контекста — 512 токенов. GGUF-файлы поддерживаются llama.cpp и LM Studio; доступны варианты квантизации от 2 до 8 бит, а также FP16 и FP32. Квантизация уменьшает размер и требования к памяти, но низкобитные варианты могут заметно снижать качество; README рекомендует сбалансированные варианты Q4_K_M, Q5_K_S, Q5_K_M и Q8_0. Модель не предназначена для генерации текста: её основная функция — получение эмбеддингов для последующего сравнения или поиска. Варианты с высокой степенью квантизации удобны для локального запуска на ограниченных ресурсах, однако требуют оценки влияния потери точности на конкретную задачу. Исходная модель и материалы репозитория распространяются по лицензии MIT.
ChristianAzinn/gte-small-gguf — это GGUF-версия модели текстовых эмбеддингов gte-small, разработанной Alibaba DAMO Academy и опубликованной thenlper. Репозиторий содержит варианты модели, преобразованные и квантованные ChristianAzinn для использования с llama.cpp и совместимыми приложениями. Модель основана на архитектуре BERT и предназначена для получения векторных представлений текста. Она подходит для информационного поиска, оценки семантического сходства, переранжирования результатов и других задач sentence embeddings. Заявлена поддержка английского языка и контекста до 512 токенов; модель работает только с текстовыми данными. Главное преимущество — небольшой размер файлов и возможность локального запуска, включая LM Studio. Доступны варианты квантования от 2 до 8 бит, а также FP16 и FP32; более сильное квантование уменьшает требования к памяти, но может заметно снижать качество. Для большинства сценариев рекомендуется сбалансированный вариант Q4_K_M или варианты с меньшими потерями качества. Использование поддерживается llama.cpp начиная с указанного в README коммита и LM Studio версии 0.2.19 или новее. Лицензия модели — MIT.
Ice0.52.1-16.01-RP — диалоговая языковая модель на архитектуре Mistral, созданная автором репозитория слиянием предварительно обученных моделей методом SLERP с помощью mergekit. В слияние вошли Ice0.40-20.11-RP и IceDrunkenCherryRP-7b-orpo-merged3; веса сохранены в формате safetensors. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Лицензия в предоставленных сведениях не указана, поэтому условия использования следует проверить на странице репозитория Hugging Face. Карточка не приводит оценок качества или подробных ограничений на сценарии применения.
II-Search-CIR-4B — разговорная языковая модель Intelligent Internet для поиска информации в интернете с рассуждением и вызовом инструментов через генерируемый Python-код. Она основана на Qwen3-4B и дообучена методом supervised fine-tuning, а затем оптимизирована методом DAPO на наборе задач со сложным рассуждением. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 40 960 токенов. Модель предназначена для сценариев, где нужно искать сведения во внешних источниках, просматривать страницы, отбирать информацию и формировать ответ. В описанном авторами окружении она использует функции web_search и web_visit, оформляя обращения к ним в блоках Python-кода. В тестах авторов II-Search-CIR-4B показала результаты на бенчмарках SimpleQA, Frames и Seal_0; эти показатели получены с конкретным поисковым API и автоматическим оценщиком и не гарантируют аналогичного качества в других окружениях. Для работы с поиском необходимы доступные реализации инструментов и подходящий рантайм; сама модель не предоставляет веб-доступ. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
Карточка модели Goat7777721/Inquisitive-Omni-1.0 на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.
Vishwas/intent_classification — модель на архитектуре MPNet, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Веса в формате PyTorch, число параметров — 136,7 млн, максимальная длина контекста — 514 токенов. Модель можно применять для поиска похожих пользовательских запросов и группировки текстов по смыслу. В README указано обучение с CosineSimilarityLoss, однако не приведены сведения о языках обучающих данных или о целевой схеме классификации намерений. Поэтому название репозитория само по себе не подтверждает, что модель выдаёт метки классов интентов. Лицензия в предоставленных данных не указана.
InternVL3-78B-GGUF — мультимодальная большая языковая модель семейства InternVL3, подготовленная Unsloth на основе OpenGVLab/InternVL3-78B. Модель предназначена для обработки текста и изображений, мультимодального восприятия и рассуждений, а также для сценариев с использованием инструментов, GUI-агентами, промышленным анализом изображений и восприятием 3D-сцен. Указанный вариант распространяется в формате GGUF. Архитектура модели следует схеме ViT-MLP-LLM: визуальная часть использует InternViT-6B-448px-V2_5, языковая — Qwen2.5-72B, объединённые через MLP-проектор. Размер модели — 78B параметров. Модель поддерживает мультимодальные входы и заявлена как многоязычная, однако точный перечень языков и размер контекстного окна в README не указаны. Обучение связано с набором данных OpenGVLab/MMPR-v1.2. К сильным сторонам относятся сочетание крупной языковой и визуальной подсистем, развитые возможности мультимодального анализа и рассуждений, а также поддержка специализированных агентных и визуальных задач. Ограничения включают высокие требования к вычислительным ресурсам, характерные для модели такого размера, и отсутствие в README подробных данных о производительности, контекстном окне и языковом покрытии. Лицензия указана как other с названием qwen; приведена ссылка на лицензию Qwen2.5-72B-Instruct.
jina-embeddings-v5-omni-small-text-matching-GGUF — мультимодальная embedding-модель, разработанная Jina AI. Это GGUF-квантованный вариант jina-embeddings-v5-omni-small-text-matching для llama.cpp, предназначенный для задач text matching и семантического поиска. Модель принимает текст, изображения, видео и аудио и преобразует их в 1024-мерные векторы общего пространства, благодаря чему индекс можно создавать по тексту, а выполнять поиск — с использованием любой поддерживаемой модальности без переиндексации. Модель содержит около 1,56 млрд параметров в текстовой, визуальной и аудиобашнях, использует pooling по последнему токену и поддерживает контекст до 32768 токенов. Доступны Matryoshka-размерности от 32 до 1024 измерений. Текстовая часть имеет F16 и 13 уровней int-квантизации с калибровкой imatrix, а мультимодальные проекторы поставляются в F16. Поддерживаются распространённые форматы изображений, видео и аудио, а также PDF. Сильные стороны модели — единое векторное пространство для разных модальностей, возможность мультимодального поиска и компактные GGUF-варианты для llama.cpp. Ограничение состоит в том, что для мультимодального запуска требуется специальная ветка llama.cpp с патчами Jina AI, ещё не включёнными в upstream-версию. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.
jina-embeddings-v5-text-nano-text-matching — компактная модель для получения текстовых эмбеддингов, разработанная Jina AI и являющаяся квантованной версией базовой модели jina-embeddings-v5-text-nano. Она предназначена для сопоставления текстов, оценки семантической схожести, поиска и других сценариев, где требуется сравнивать смысловое содержание запросов и документов. Модель поддерживает мультиязычные тексты; в README приведены примеры на английском, арабском, китайском, французском, немецком, греческом, хинди, итальянском, японском и корейском языках. Модель содержит 239 млн параметров, обрабатывает последовательности длиной до 8192 токенов и формирует эмбеддинги размерностью 768. Используется pooling по последнему токену, предусмотрены матрёшечные размерности 32, 64, 128, 256, 512 и 768, что позволяет выбирать компромисс между качеством и эффективностью хранения или поиска. Модель ориентирована на высокую производительность при небольшом размере и доступна для интеграции через sentence-transformers, vLLM и специальную ветку llama.cpp с поддержкой формата GGUF. README не содержит подробных сведений о конкретных ограничениях качества, кроме ориентации исключительно на задачу text-matching, поэтому применимость к другим задачам эмбеддингов не гарантируется. Модель распространяется по лицензии CC BY-NC 4.0, предусматривающей некоммерческое использование.
JiRackUltra_14b-i1-GGUF — GGUF-квантизированная версия модели CMSManhattan/JiRackUltra_14b, подготовленная mradermacher. Это текстовая генеративная модель с заявленным размером 14 млрд параметров, связанная с архитектурами Qwen2.5 и DeepSeek и ориентированная на эффективный запуск на CPU и устройствах с ограниченной памятью. В описании также указаны технологии ternary и BitNet 1.58bit. Модель предназначена для генерации текста, работы через web-интерфейсы, маршрутизации запросов, tool calling и робототехнических сценариев. Заявлена поддержка английского, китайского, японского, корейского, французского, испанского, португальского, немецкого, итальянского, русского, арабского, вьетнамского и тайского языков. Поддержка изображений или других модальностей, а также размер контекстного окна в README не указаны. Репозиторий содержит варианты квантизации IQ и Q разных размеров: примерно от 3,7 до 12,2 ГБ. Это позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством, причём для ряда вариантов автор рекомендует IQ-квантизации или i1-Q4_K_M. Ограничениями являются возможное снижение качества у низкобитных вариантов и отсутствие в README результатов бенчмарков, подробного описания обучения и точных характеристик контекста. Указанная лицензия — MIT.
Josie 7B v6.0 — дообученная Gökdeniz Gülmez языковая модель семейства Qwen2 для диалоговой генерации текста и выполнения запросов пользователя. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает контекст длиной до 32 768 токенов. Для диалога применяется формат с отдельными сообщениями system, user и assistant; также заявлен интерфейс вызова инструментов. Модель дообучена на пользовательских наборах данных; подробности о них в карточке не раскрыты. Она подходит для чат-ботов и генерации ответов на текстовые запросы. Распространяется в формате safetensors по лицензии Apache 2.0.
Kosmos-EVAA-PRP-v31-8B — языковая модель, созданная разработчиком jaspionjader слиянием двух предварительно обученных моделей: Kosmos-EVAA-PRP-v30-8B и Kosmos-EVAA-gamma-light-8B. Для объединения весов применён метод SLERP с помощью mergekit; архитектура — плотная Llama с причинной языковой моделью LlamaForCausalLM. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и сценариев, где нужен ответ или продолжение текста по текстовой подсказке. Она содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Сведения о лицензии и специально поддерживаемых языках в использованных данных отсутствуют, поэтому условия распространения и языковую специализацию следует проверять отдельно.
LaBSE-en-ru — сокращённая версия LaBSE, созданной Google и перенесённой в Sentence Transformers, адаптированная автором cointegrated для английского и русского языков. Это плотная модель семейства BERT с 155,5 млн параметров и контекстом до 512 токенов; в словаре оставлены токены только для английского и русского, что сократило словарь до 10% исходного, а число параметров — до 27% исходного размера LaBSE. Модель предназначена для получения векторных представлений предложений на английском и русском языках. Такие эмбеддинги можно использовать для поиска семантически близких текстов и оценки сходства между предложениями, в том числе между языками. В README указано, что сокращение не ухудшило качество эмбеддингов для этих двух языков. Модель распространяется в форматах PyTorch, Safetensors и TensorFlow. Лицензия в предоставленных данных не указана.
Blaxzter/LaBSE-sentence-embeddings — копия setu4993/LaBSE с выдачей векторных представлений предложений через pooler_output и кэшированием. Это мультиязычная модель на архитектуре BERT, предназначенная для получения сопоставимых эмбеддингов предложений на 109 языках и поиска соответствующих фрагментов между языками. В метаданных указаны 498,1 млн параметров и контекст до 512 токенов; доступны веса в форматах PyTorch, TensorFlow и Flax. Модель подходит для межъязыкового поиска по предложениям и сравнения их семантического сходства, в том числе в многоязычных коллекциях. Обучение исходной LaBSE сочетало masked language modeling и translation language modeling; данная копия также реализует кэширование эмбеддингов. Лицензия — Apache-2.0. Возможности зависят от поддерживаемых языков и качества исходного текста; README не приводит метрик этой копии.
jfrost10/legal-ft-7f9f08e4-892d-410a-9df4-7dc4e3b6505f — дообученная модель Sentence Transformers на основе Snowflake/snowflake-arctic-embed-l, предназначенная для сопоставления текстовых запросов и документов. Она кодирует предложения и абзацы в нормализованные плотные векторы размерности 1024; сходство оценивается косинусной мерой. Архитектура включает BERT, пулинг по CLS-токену и нормализацию, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов, в том числе в сценариях работы с юридическими материалами, что предполагает название репозитория. README сообщает о дообучении на 156 парах предложений и приводит результаты оценки поиска, однако этих данных недостаточно, чтобы считать качество подтверждённым для широкого применения в юридической сфере. Лицензия в предоставленных данных не указана.
LFM2-24B-A2B-MLX-8bit — 8-битная квантованная версия модели LFM2-24B-A2B, разработанной LiquidAI. Квантование выполнено командой LM Studio с использованием MLX и ориентировано на запуск на устройствах с Apple Silicon. Модель предназначена для генерации текста и локального использования через совместимое программное обеспечение. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Ключевые параметры контекста, точная архитектура и дополнительные модальности в README не указаны; из описания следует, что это текстовая модель. Сильной стороной является оптимизация для Apple Silicon и снижение требований к памяти благодаря 8-битному представлению, однако квантование может влиять на качество по сравнению с исходной версией, а применение вне экосистемы Apple может быть ограничено. Модель распространяется по лицензии lfm1.0.
KoarAI разработала LFM2.5-350M-Thinking-0003 как дообученную компактную гибридную языковую модель на основе LiquidAI/LFM2.5-350M. Модель с архитектурой LFM2 и примерно 443,4 млн параметров предназначена для генерации текста и диалогов с пошаговыми рассуждениями: она формирует внутренние шаги решения, а затем выдаёт итоговый ответ. Модель дообучена на примерах математических и алгоритмических рассуждений, программирования, русскоязычных диалогов, многошаговых ответов и вопросов из STEM, бизнеса и права. Заявлены контекст до 128 000 токенов и поддержка английского и русского языков. Модель рассчитана на компактное развертывание и сценарии, где нужны ответы с инструкциями, рассуждениями или вызовом инструментов; качество рассуждений и кодогенерации на малой модели может быть ограничено. Репозиторий содержит веса в формате safetensors. Указана лицензия Apache-2.0. Для локального запуска через llama.cpp и совместимые приложения автор отдельно указывает квантованные версии GGUF в другом репозитории.
Ling-2.6-flash — открытая инструктивная языковая модель компании InclusionAI для диалога и агентных сценариев. Она предназначена для вызова инструментов, многошагового планирования и выполнения задач, включая работу в агентных и программных фреймворках; также подходит для ответов на общие вопросы, математических рассуждений, следования инструкциям и обработки длинного контекста. Архитектура — гибридная MoE семейства Bailing; в карточке заявлены 104 млрд параметров всего и 7,4 млрд активных, тогда как метаданные репозитория указывают 6,4 млрд параметров. Метаданные указывают контекст до 131 072 токенов, текстовый ввод и генерацию текста; карточка отмечает интерфейс вызова инструментов. Заявлены оптимизация скорости вывода и экономии токенов, а также результаты на агентных бенчмарках. Модель распространяется по лицензии MIT. Ограничения включают возможные галлюцинации при вызове инструментов в сложных сценариях, недостаточную глубину рассуждений, не всегда естественное переключение между китайским и английским и трудности со сложными инструкциями. Карточка описывает преимущественно китайско-английские сценарии, а метаданные указывают английский язык; другие языки отдельно не подтверждены.
kechengcode/Llama-3.1-5B-Instruct-18Layers — компактная текстовая генеративная модель на архитектуре Llama, созданная методом passthrough merge из слоёв Meta Llama 3.1 8B Instruct с помощью mergekit. В репозитории указаны 4,5 млрд параметров, формат safetensors и библиотека Transformers; метаданные указывают контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. Её можно использовать для ответов на вопросы, черновиков текстов и подключения языковой модели к приложениям с инструментами. Карточка не описывает отдельную специализацию по предметной области или языкам; исходная модель — Llama 3.1 8B Instruct. Лицензия в предоставленных данных не указана. Сокращённый набор слоёв может влиять на качество и поведение относительно исходной модели; отдельные результаты оценки не приведены.
LLM2Vec-Meta-Llama-3-8B-Instruct-mntp — текстовый энкодер на основе decoder-only LLM Meta Llama 3 Instruct с 8 млрд параметров, разработанный исследовательской группой McGill-NLP. Модель создана по методике LLM2Vec, которая преобразует авторегрессионные языковые модели в двунаправленные энкодеры: включает двунаправленное внимание и обучение с маскированием следующего токена (MNTP). Репозиторий проекта и описание метода опубликованы McGill-NLP. Модель предназначена для получения векторных представлений текстов и их семантического сравнения. Основные сценарии включают поиск и извлечение релевантных документов, reranking, классификацию, кластеризацию, оценку семантического сходства и задачи text embedding. Запросы можно кодировать с инструкциями, а для документов инструкции не требуются; сходство представлений можно вычислять, например, по косинусной близости. В README явно указан английский язык. В примере используется усредняющее pooling и максимальная длина 512 токенов. Сильной стороной модели является адаптация мощной инструкционной LLM к задачам универсального текстового кодирования без перехода на отдельную encoder-архитектуру; методика также допускает дальнейшее fine-tuning. Ограничения связаны с указанной языковой специализацией на английском, зависимостью от custom code и PEFT-компонентов при загрузке, а также с вычислительными требованиями модели размером 8B. README не приводит подробных результатов бенчмарков или полного описания поддерживаемого контекста. Лицензия модели — MIT.
Undi95/Lumimaid-Magnum-v4-12B — объединённая разговорная модель на архитектуре Mistral, созданная автором Undi95 с помощью mergekit. В объединение вошли Lumimaid, Magnum v4, LocalC и Mistral Nemo Instruct; также автор добавил дообученную на входах Claude версию Nemo. Модель содержит 12,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 131 072 токенов. Для prompt используется шаблон Mistral [INST]…[/INST]. Модель предназначена для диалога и генерации текста по инструкциям, в том числе для продолжительных бесед и сценариев с вызовом инструментов. В README не описаны отдельные специализированные области применения или подробные оценки качества. Лицензия в предоставленных данных не указана.
MagnusIntellectus-12B-v1 — объединённая модель для генерации текста и диалогов, созданная GalrionSoftworks с помощью LazyMergekit из UsernameJustAnother/Nemo-12B-Marlin-v5 и anthracite-org/magnum-12b-v2. Это плотная причинно-языковая модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров; карточка указывает контекст до 1 024 000 токенов. Модель предназначена для генерации текста и ведения диалогов в чат-сценариях. В README описано слияние методом TIES с нормализацией и весами 0,70 и 0,30; веса опубликованы в формате safetensors и типе bfloat16. В карточке приведены результаты Open LLM Leaderboard: средний балл 21,55, IFEval 44,21 и BBH 33,26. Лицензия — Apache-2.0. Данных о поддерживаемых естественных языках в предоставленных источниках нет.
Matter-0.1-7B-DPO-preview — диалоговая языковая модель семейства Mistral, разработанная 0-hero. Это версия Mistral 7B, дообученная методом DPO на наборе Matter, сформированном из более чем 35 датасетов; модель содержит 7,1 млрд параметров и использует архитектуру MistralForCausalLM. Она предназначена для диалогов и генерации текста, а также поддерживает интерфейс вызова функций. Для общения используется формат ChatML, контекст составляет до 32 768 токенов. Карточка указывает английский язык. Модель распространяется под лицензией Apache-2.0.