I.14Автоматизация процессов и AI-агенты

swardiantara/bert-tiny-yelp-k3-adaptive-cosine — компактная модель Sentence Transformers, дообученная на парах текстов из Yelp на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерности 128, сравниваемые по косинусному сходству; подходит для поиска и сопоставления текстов. Архитектура включает BERT с усреднённым pooling. В метаданных указано 4,4 млн параметров и контекст до 512 токенов; карточка модели задаёт максимальную длину последовательности 128 токенов. Модель предназначена для текстовых сценариев семантического поиска и извлечения признаков, в частности для поиска отзывов, похожих на запрос или другой отзыв. Базовая модель англоязычная, а приведённые в README примеры обучающих данных — отзывы Yelp на английском языке. Лицензия в предоставленных данных не указана.

Blur-7b-slerp-v1.46 — языковая модель семейства Mistral, созданная объединением моделей liminerity/merge и bardsai/jaskier-7b-dpo-v5.6 методом SLERP с помощью mergekit. Она предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors; лицензия — Apache-2.0. Карточка приводит результаты оценивания на бенчмарках рассуждений и понимания текста, но не описывает конкретные языки или специализированные области применения.

Это набор GGUF-квантизированных версий языковой модели bofenghuang/Meta-Llama-3-8B, подготовленный командой featherless-ai-quants. Модель предназначена для генерации текста и локального или серверного запуска в совместимых средах, поддерживающих формат GGUF. README не уточняет исходного разработчика базовой модели, её языки, максимальный контекст и точную архитектуру; известно только, что базовая модель относится к семейству Meta Llama 3 и имеет 8 млрд параметров. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8,1 ГБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, однако конкретные различия в качестве в README не приведены. Модель ориентирована на задачи текстовой генерации, но сведения о специальной настройке, мультиязычности, производительности и ограничениях отсутствуют. Лицензия в README не указана. Условия использования должны определяться лицензией исходной модели bofenghuang/Meta-Llama-3-8B и условиями распространения соответствующих квантизированных файлов.

Breeze-7B-32k-Base-v1_0 — базовая языковая модель MediaTek Research из семейства Breeze-7B, построенная на архитектуре Mistral-7B. Это декодерный трансформер с 7,2 млрд параметров и контекстом до 32 768 токенов; словарь расширен до 62 тысяч токенов для лучшей работы с традиционным китайским языком. Модель рассчитана на английский и традиционный китайский (zh-TW) и предназначена для дальнейшего дообучения под конкретные задачи. Увеличенное контекстное окно позволяет обрабатывать длинные документы и извлекать сведения из текста, распределённого по большому контексту. В описанных тестах модель показала более 90% точности при поиске ключа в длинном контексте и улучшенные результаты на длинных вариантах DRCD по сравнению с Breeze-7B-Base. Это базовая модель, поэтому её обычно дообучают перед применением для диалога и других прикладных задач. Распространяется по лицензии Apache-2.0.

Calme-12B-Instruct-v0.1 — языковая модель MaziyarPanahi для генерации текста в формате инструкций. Это плотная причинная модель семейства Mistral с 12,3 млрд параметров и контекстом до 32 768 токенов; модель объединена и дообучена на качественных наборах данных на основе Calme-7B-Instruct-v0.9. Карточка описывает стиль Calme как ясный, спокойный и связный. Модель предназначена для ответов на инструкции и других задач генерации текста. Её можно запускать через Transformers с задачей text-generation. В репозитории указаны веса safetensors; автор также публикует отдельную GGUF-версию с квантизацией от 2 до 8 бит для запуска на персональных компьютерах. Модель распространяется по лицензии Apache-2.0. README не приводит сведения о языках обучения, конкретных оценках качества или ограничениях безопасности.

Calme-12B-Instruct-v0.1-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, созданный и квантизированный MaziyarPanahi. Модель основана на MaziyarPanahi/Calme-12B-Instruct-v0.1 и относится к семейству Mistral; размер исходной модели составляет около 12 миллиардов параметров. Вариант предназначен для использования с llama.cpp и совместимыми приложениями и библиотеками, включая локальные графические интерфейсы и серверы инференса. Модель ориентирована на выполнение инструкций и диалоговые сценарии, генерацию текста и локальный запуск с поддержкой CPU и GPU в зависимости от используемого программного обеспечения. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат поддерживает текстовую модальность; сведения о языках и размере контекстного окна в README не указаны. Основные преимущества — наличие нескольких уровней квантизации и широкая совместимость с экосистемой GGUF, благодаря чему модель можно запускать локально на различных конфигурациях. К ограничениям относятся потенциальная потеря качества при более сильной квантизации, а также отсутствие в предоставленных данных бенчмарков, подробных характеристик архитектуры, языковой поддержки и контекстного окна. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/calme-2.4-llama3-70b-GGUF — это набор файлов модели в формате GGUF для модели MaziyarPanahi/calme-2.4-llama3-70b. Модель разработана и квантована MaziyarPanahi, а GGUF поддерживается экосистемой llama.cpp. По назначению это текстовая generative-модель на базе Llama 3 для локального запуска и генерации текста. В README указано, что доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством работы. Формат совместим с llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All, LoLLMS Web UI, candle и другими инструментами. Поддерживаются сценарии локального использования, включая запуск через графические интерфейсы, серверы и OpenAI-совместимые API. Из предоставленных данных не указаны точная архитектура исходной модели, размер контекста, поддерживаемые языки, результаты оценки, системные требования и ограничения качества. Лицензия в README не указана; условия использования следует уточнять в карточке исходной модели и репозитории. Split-файлы объединять вручную не требуется: совместимые библиотеки могут загрузить их автоматически по первому файлу.

Capytessborosyi 34B 200K DARE Ties GGUF — это квантизированная языковая модель для генерации текста, разработанная brucethemoose и преобразованная в формат GGUF пользователем TheBloke. Модель основана на архитектуре Yi и предназначена для работы с текстовыми запросами, включая диалоговые сценарии и локальный запуск через совместимые приложения и библиотеки. Модель имеет размер 34B параметров и заявленный контекст до 200K токенов; в метаданных указан английский язык. Доступны варианты квантизации от 2 до 8 бит, рассчитанные на инференс с использованием CPU и GPU. Формат GGUF поддерживается, в частности, llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Для диалогового взаимодействия в README приведён шаблон Orca-Vicuna с ролями SYSTEM, USER и ASSISTANT. К сильным сторонам относятся большой заявленный контекст, широкий выбор уровней квантизации и возможность локального запуска на различном оборудовании. К ограничениям относятся возможное снижение качества по сравнению с исходной неквантизированной версией при использовании агрессивной квантизации, а также отсутствие в README результатов тестирования и подробного описания специализации модели. Распространение регулируется лицензией yi-license; ссылка ведёт на лицензию исходной модели Yi-34B.

CatMacaroni-Slerp — объединённая модель на основе архитектуры Mistral, созданная методом Slerp Merge из AIDC-ai-business/Marcoroni-7B-v3 и rishiraj/CatPPT-base. Репозиторий содержит веса в формате safetensors; модель насчитывает 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и сценариев общения с языковой моделью. В README указано, что 20 декабря 2023 года она занимала первое место в OpenLLM Leaderboard среди моделей класса 7B; это заявление относится к указанной дате и не гарантирует текущего качества. Модель выпущена под лицензией Apache-2.0.

CrisperWhisper — дообученная Nyra Health версия Whisper large-v3 для дословного распознавания речи. Модель содержит около 905,2 млн параметров, использует архитектуру Whisper и доступна в формате safetensors для библиотеки Transformers. Она принимает аудио и выдаёт текстовую транскрипцию с точными временными отметками на уровне слов. Модель рассчитана на транскрибацию, где важно сохранять оговорки, заполнители пауз, повторы, запинки и незавершённые фразы, а также на сегментацию речи. Для выравнивания слов и временных отметок применяются модифицированная токенизация, Dynamic Time Warping по cross-attention и специальная функция потерь. В карточке отмечены результаты на verbatim-наборах AMI и TED; качество зависит от аудиоданных и задачи, а сама модель больше не поддерживается активно и заменена CrisperWhisper 2.0. Лицензия — CC BY-NC 4.0, допускающая использование с обязательной атрибуцией и ограничением на коммерческое применение.

Dans-AdventurousWinds-Mk2-7b-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная MaziyarPanahi методом slerp из mistralai/Mistral-7B-Instruct-v0.2 и PocketDoc/Dans-AdventurousWinds-Mk2-7b. Она предназначена для генерации текста и ответов на инструкции в диалоговых сценариях. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка описывает способ объединения весов, но не приводит оценок качества или подробных ограничений; возможности могут зависеть от конкретного сценария использования.

shadowml/DareBeagel-2x7B — языковая модель для диалоговой генерации текста, созданная объединением mlabonne/NeuralBeagle14-7B и mlabonne/NeuralDaredevil-7B в MoE-архитектуру Mixtral с помощью LazyMergekit. Конфигурация использует случайный режим маршрутизации экспертов. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для чатов и генерации ответов на текстовые запросы; в README приведены результаты оценки на задачах рассуждения и продолжения здравого смысла. Репозиторий распространяется по лицензии Apache-2.0. README озаглавлен Beyonder-2x7B-v2, тогда как идентификатор репозитория содержит DareBeagel-2x7B.

DeepSeek-R1-Distill-Qwen-1.5B-GGUF — это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Qwen-1.5B, разработанной deepseek-ai и подготовленной для квантизации компанией Second State Inc. Модель предназначена для генерации текста в диалоговых приложениях и локального запуска через LlamaEdge, включая режимы API-сервиса и командного чат-приложения. В README также указана совместимость с библиотекой transformers. Модель основана на архитектуре Qwen и содержит 1,5 млрд параметров. Она поддерживает текстовый ввод и вывод, использует шаблон запросов ChatML и контекст размером до 32 000 токенов. Доступны варианты GGUF с квантизацией от 2 до 16 бит и размером файлов примерно от 753 МБ до 3,56 ГБ. Варианты с более низкой разрядностью экономят память, но сильнее теряют в качестве; Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые для баланса размера и качества. Основные преимущества модели — компактный размер, возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают снижение качества при агрессивной квантизации и отсутствие в README сведений о поддерживаемых языках, результатах тестирования и специализированных сценариях применения. Модель распространяется по лицензии MIT.

DeepSeek-R1-Distill-Qwen-32B Uncensored — 32-миллиардная плотная языковая модель, подготовленная Richard Young на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-32B. Это декодерный трансформер семейства Qwen2 для генерации текста и диалогов с пошаговыми рассуждениями. В карточке заявлена техника abliteration — удаление направления отказа модели; автор описывает вариант как uncensored. Модель предназначена для задач, где нужны развёрнутые рассуждения, в том числе для исследований рассуждений и выравнивания, обучения и творческих сценариев. Метаданные указывают контекст до 131 072 токенов; README заявляет 32 768 токенов. Поддерживаемый язык по карточке — английский. Модель принимает текст и выдаёт текст. Англоязычные метаданные указывают лицензию «other», без уточнения конкретных условий, поэтому перед использованием следует проверить лицензию репозитория и базовой модели. Заявленное удаление отказов означает, что модель может выдавать ответы без защитных ограничений исходной модели; качество и поведение в отдельных задачах отдельно не подтверждены.

DeepSeek-V4-Flash-0731-ROCmFP4 — это квантизированная версия языковой модели DeepSeek-V4-Flash-0731, разработанная пользователем kingjones777 на основе модели deepseek-ai. Модель распространяется в формате GGUF для генерации текста и предназначена прежде всего для локального запуска на одной системе AMD Strix Halo с 128 ГБ объединённой памяти и полной выгрузкой на GPU. Архитектура модели — sparse MoE с 256 экспертами и механизмами indexer/DSA attention; указанный язык — английский. Основная сборка Q3 использует смешанную квантизацию ROCmFP4/ROCmFPX с размером около 101 ГБ и общей плотностью около 2,92 BPW, что позволяет вместить её в 128 ГБ памяти. Также доступна сборка Q4_0_ROCMFP4_STRIX размером около 141 ГБ. Модель рассчитана на AMD gfx1151, включая Ryzen AI MAX+ 395, и требует специальной ветки ROCmFPX для llama.cpp; стандартный llama.cpp эти тензоры загрузить не может. Сильная сторона сборки — возможность полностью разместить крупную MoE-модель на одной совместимой AMD-системе, избежав выгрузки части параметров на CPU. Заявленная скорость составляет примерно 5–8 токенов в секунду, однако она зависит от оборудования и конфигурации. Ограничения включают узкую аппаратную совместимость, необходимость специального загрузчика и рекомендуемый контекст 8192 токена для стабильной работы на указанной конфигурации. MTP включён в поставку, но для этой аппаратно-программной связки отключён, поскольку оказался медленнее обычной генерации; режим рассуждений можно включать отдельно. Модель является производной от DeepSeek-V4-Flash-0731, поэтому её возможности и ограничения определяются базовой моделью. Лицензия указана как other с названием deepseek; применяются условия лицензии исходной модели DeepSeek, ссылка на которую приведена в карточке.

mlx-community/DeepSeek-V4-Flash-8bit — это версия модели DeepSeek-V4-Flash, опубликованная сообществом mlx-community и предназначенная для генерации текста. Модель подготовлена для работы с библиотекой MLX и запуска через mlx-lm; в README также указана поддержка шаблона диалога, если он доступен в токенизаторе. Известно, что модель использует 8-битное представление и относится к категории text-generation. Она может применяться для диалоговой генерации и других задач создания текста, однако сведения об архитектуре, количестве параметров, размере контекста, поддерживаемых языках и модальностях в README отсутствуют. К сильным сторонам относятся интеграция с MLX и возможность локального запуска через mlx-lm. Ограничения и точные требования к аппаратному обеспечению не указаны. Лицензия в предоставленных материалах не обозначена.

eren23/DistilHermes-2.5-Mistral-7B — дообученная методом DPO модель на основе teknium/OpenHermes-2.5-Mistral-7B, созданная с использованием набора argilla/distilabel-intel-orca-dpo-pairs. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалогов, генерации текста и ответов на вопросы. Поддерживает английский язык и контекст длиной до 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены результаты оценивания базовой модели OpenHermes-2.5-Mistral-7B на нескольких тестах; их нельзя считать отдельной оценкой этого чекпойнта. Для практического применения подходят диалоговые сценарии и ответы на вопросы, однако качество ответов может зависеть от запроса и не гарантирует фактическую точность.

TehVenom/Dolly_GPT-J-6b — объединённая модель на основе GPT-J-6B и LoRA-адаптера Dolly, опубликованная для использования возможностей Dolly без зависимости от PEFT. Она предназначена для генерации текста по инструкциям и диалоговых запросов, в сценариях, похожих на Alpaca, но на базе GPT-J вместо LLaMA. В карточке указано, что LoRA обучена samwit на очищенной версии датасета Alpaca; архитектура — плотная авторегрессионная GPT-J, формат весов — PyTorch, контекст — 2048 токенов. Автор README отмечает, что качество модели хорошее, но уступает Alpaca, связывая это с меньшим объёмом предварительного обучения GPT-J-6B по сравнению с LLaMA 7B. Поддерживаемые языки отдельно не указаны. Лицензия в предоставленных данных не указана.

HenryJJ/dolphin-2.6-mistral-7b-dpo-orca-v2 — авторегрессионная языковая модель, подготовленная HenryJJ методом DPO на основе cognitivecomputations/dolphin-2.6-mistral-7b с использованием набора Intel/orca_dpo_pairs. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; для диалогов использует формат ChatML. В карточке указано обучение на 1200 шагах с окном контекста 1024 токена, тогда как метаданные модели задают native context в 32768 токенов. Модель предназначена для генерации текста и диалоговых ответов на английском языке. Её можно применять как чат-ассистента для ответов на запросы и ведения диалога. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Dolphin-Mistral-24B-Venice-Edition-Patched — текстовая генеративная модель, опубликованная AIOpsInSpace как исправленная версия dphn/Dolphin-Mistral-24B-Venice-Edition. Модель предназначена для диалогового взаимодействия и генерации текста; в описании она позиционируется как открытая, разговорная и «uncensored». Поддерживаемый язык — английский. Это плотная модель размером 24 млрд параметров с архитектурой Mistral и механизмом sliding window attention. Патч восстанавливает параметры скользящего окна внимания, устраняя фрагментацию контекста и зависания при генерации после 4096 токенов. Также исправлены стоп-токены токенизатора. Заявленное контекстное окно составляет 32K токенов. Модель распространяется в формате GGUF и предназначена для использования в совместимых средствах локального запуска. Сильными сторонами являются большой контекст, восстановленная работа sliding window attention и отсутствие заявленных ограничений на содержание ответов. README не содержит точных данных о бенчмарках, производительности, требованиях к оборудованию или конкретных вариантах квантования, поэтому эти характеристики оценить нельзя. Модель распространяется по лицензии Apache-2.0.

EuroMoE-2.6B-A0.6B-Instruct-2512 — мультиязычная языковая модель с разреженной архитектурой Mixture of Experts, разработанная консорциумом университетов и компаний, включая Instituto Superior Técnico — University of Lisbon, University of Edinburgh и Unbabel при финансировании Европейского союза. Модель содержит 2,6 млрд параметров, из которых при генерации активны 0,6 млрд; в метаданных репозитория указано 231,7 млн параметров. Она построена на архитектуре Mixtral и поддерживает контекст до 32 768 токенов. Модель дообучена следовать инструкциям на наборе EuroBlocks, ориентированном на выполнение общих инструкций и машинный перевод. Она предназначена для диалоговой генерации текста и работы с языками Европы, а также рядом других языков, включая русский, арабский, китайский, хинди, японский и корейский. Используются grouped-query attention, RMSNorm, SwiGLU и RoPE. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Модель не выровнена по человеческим предпочтениям и может выдавать галлюцинации, вредоносный контент или фактические ошибки. Лицензия Apache 2.0.

Exodia-7B — разговорная языковая модель на архитектуре Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Карточка описывает её как результат слияния нескольких моделей, призванный объединить их сильные стороны и снизить слабые стороны; конкретные исходные модели и разработчик в README не названы. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы с учётом контекста и работу с разными типами запросов. Доступны веса PyTorch. Лицензия — MIT. README заявляет широкую применимость и повышенное покрытие знаний, но не приводит оценок, тестов или конкретных примеров, подтверждающих эти заявления. Указанные характеристики не подтверждают поддержку изображений, аудио или других нетекстовых входов.

WesPro/F1-Chimera-Hybrid-LimaRP-8B — объединённая модель генерации текста, созданная методом linear merge с помощью mergekit на основе mlabonne/ChimeraLlama-3-8B и mpasila/Llama-3-LimaRP-LoRA-8B. Модель построена на архитектуре Llama 3 с плотной причинно-языковой сетью и содержит 7,5 млрд параметров; репозиторий использует формат safetensors, а веса при объединении приведены к float16. Модель предназначена для диалогов и генерации текста. Контекст составляет 8192 токена. Карточка не сообщает о специализированных языках или прикладных областях, поэтому модель можно описать как текстовую модель общего назначения. Лицензия в предоставленных данных не указана.

Falcon-H1-1.5B-Deep-Base — базовая языковая модель семейства Falcon-H1, разработанная TII (Technology Innovation Institute). Это плотная causal decoder-only модель с гибридной архитектурой Transformer и Mamba, содержащая 1,2 млрд параметров и поддерживающая контекст до 131 072 токенов. Модель предназначена для генерации текста и решения широкого круга языковых задач, включая рассуждения; в README приведены результаты сравнительных тестов на общих задачах. Модель работает с текстом и рассчитана на многоязычное применение. В метаданных перечислены арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский языки. Для запуска README указывает Transformers, vLLM и llama.cpp; для llama.cpp доступны совместимые GGUF-файлы в официальной коллекции. Репозиторий содержит веса Safetensors. Лицензия — Falcon-LLM License (в метаданных обозначена как other); перед использованием следует учитывать её условия.

Карточка модели sultthegreat/falcon-mamba-7b-instruct на Hugging Face совпадает с карточкой tiiuae/falcon-mamba-7b-instruct, поэтому описание составлено по ней. FalconMamba-7B-Instruct — англоязычная авторегрессионная языковая модель TII на архитектуре Mamba с причинным декодером. Она дообучена на инструкционных данных поверх Falcon-Mamba-7B; в метаданных указано 8,9 млрд параметров. Для обучения использовались веб-тексты RefinedWeb, технические материалы, код, математические данные и часть FineWeb-Edu. Модель предназначена для диалогов, выполнения текстовых инструкций и генерации продолжений; работает с текстом и поддерживает генерацию на английском языке. Обучение увеличивало длину контекста с 2 048 до 8 192 токенов. В карточке отмечено, что архитектура Mamba не имеет фиксированного предела дальних зависимостей при инференсе. Для ускорения рекомендуются оптимизированные ядра Mamba; модель также можно запускать в FP16 и 4-битном режиме. Карточка приводит результаты на общих языковых и рассуждательных бенчмарках, включая MMLU, GSM8K и IFEval. Модель выпущена под лицензией TII Falcon-Mamba License 2.0, обозначенной в метаданных как other; перед использованием следует проверить её условия. Карточка описывает преимущественно английское применение и не заявляет специальных возможностей для других языков.

FimbulHermes-15B-v0.1 — текстовая чат-модель, созданная с помощью mergekit объединением NousResearch и Sao10K. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 15,2 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов. Модель предназначена для диалогов и генерации текста. В README её характеризуют как стабильную и выразительную, однако отмечают, что она не прошла тщательную оценку. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

GeistBERT — немецкоязычная языковая модель, разработанная авторами проекта GeistBERT и дообученная на основе GottBERT. Это плотная архитектура RoBERTa с 153,2 млн параметров, обученная с Whole Word Masking на преимущественно дедуплицированном немецком корпусе объёмом около 1,3 трлн токенов; контекст составляет 514 токенов. Модель предназначена для немецких NLP-задач, включая классификацию текста, распознавание именованных сущностей, понимание документов и предварительное обучение для машинного перевода. В README сообщаются сильные результаты на немецких бенчмарках NER, классификации текста и NLI. Для специализированных задач модель можно дообучать; метаданные указывают задачу заполнения пропусков в тексте (fill-mask). Корпус не прошёл полную ручную проверку, поэтому в нём могут встречаться избыточные или низкокачественные примеры. Лицензия модели — MIT.

Это набор квантованных моделей в формате GGUF для Gemma 2 2B IT, разработанной Google. Репозиторий подготовлен MaziyarPanahi и содержит варианты квантования от 2 до 8 бит на основе исходной модели google/gemma-2-2b-it. Модель предназначена для генерации текста и локального использования в приложениях, поддерживающих GGUF. Она может применяться через llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие совместимые инструменты, включая серверы с OpenAI-совместимым API. Формат GGUF и квантование позволяют выбирать компромисс между размером файлов, требованиями к ресурсам и качеством вывода. Из README известны архитектура семейства Gemma 2 и размер исходной модели — 2 млрд параметров. Сведения о поддерживаемых языках, размере контекста, конкретных характеристиках отдельных квантованных вариантов, результатах тестирования и ограничениях исходной модели не указаны. Лицензия в README также не указана; условия использования следует уточнять в документации Google для Gemma.

mlx-community/gemma-3n-E2B-it-lm-4bit — это 4-битная модель в формате MLX, созданная сообществом mlx-community на основе instruction-tuned модели google/gemma-3n-E2B-it, разработанной Google. Конвертация выполнена с использованием mlx-lm версии 0.25.2, поэтому модель предназначена для запуска в экосистеме MLX, в частности на совместимом оборудовании Apple через библиотеку mlx-lm. Модель ориентирована на генерацию текста в диалоговом формате и поддерживает сценарии, связанные с обработкой текста, аудио и видео, включая automatic speech recognition, automatic speech translation и преобразование аудио или видео в текст, согласно указанным в карточке тегам. Обозначение E2B указывает на класс модели примерно в 2 миллиарда параметров, а lm-4bit — на 4-битное квантование, которое обычно уменьшает требования к памяти и ускоряет локальный запуск, но может снижать точность по сравнению с полной версией. README не содержит сведений о точном устройстве архитектуры, максимальной длине контекста, перечне поддерживаемых языков, фактических ограничениях мультимодальной обработки и результатах тестирования. Для использования требуется установить mlx-lm и применять встроенный chat template, если он доступен. Модель распространяется по лицензии Gemma; на Hugging Face необходимо ознакомиться с лицензией Google и подтвердить условия доступа.

DuoNeural Gemma4-12B-IT-Abliterated-GGUF — набор GGUF-квантизаций текстовой модели Gemma 4-12B-IT-Abliterated, разработанный исследовательской лабораторией DuoNeural. Модель предназначена для генерации текста и запуска локально через llama.cpp или llama-cpp-python; варианты подходят для систем с ограниченными ресурсами и различным объёмом видеопамяти. В README указан английский язык. Поддержка мультимодальности не заявлена. В основе лежит google/gemma-4-12B-it: 48 слоёв и hidden size 3840. Abliteration выполнена методом ортогональной rank-1-проекции в down_proj и o_proj всех 48 слоёв. По заявлению авторов, режим рассуждений работает в llama.cpp с enable_thinking=True. Доступны Q4_K_M размером около 7,5 ГБ, Q5_K_M около 8,5 ГБ и Q8_0 около 12,7 ГБ; рекомендуемые требования к VRAM составляют примерно 12 ГБ, 12 ГБ и 16 ГБ соответственно. На A100-40GB скорость генерации составляет 78,3, 73,1 и 63,4 токена в секунду для этих вариантов. Сильные стороны модели — локальный запуск, несколько уровней компромисса между размером и качеством, высокая скорость на GPU и заявленное сохранение поведения на безвредных тестах. Abliteration снижает склонность к отказам, поэтому модель может охотнее отвечать на потенциально вредные запросы; это одновременно является существенным ограничением и требует осторожного применения. Длина контекста в README не указана, мультимодальные возможности и полный набор языков также не описаны. Модель распространяется по лицензии Apache-2.0.