I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельflax-sentence-embeddings/all_datasets_v3_distilroberta-base — модель эмбеддингов предложений, разработанная участниками Community Week Hugging Face по проекту обучения sentence embeddings на 1 млрд пар. За основу взята distilroberta-base, дообученная контрастивным обучением на объединении разнообразных наборов данных. Модель кодирует предложение в вектор, отражающий его семантическое содержание. Векторы предназначены для поиска по смыслу, кластеризации текстов и оценки сходства предложений. Модель имеет архитектуру DistilRoBERTa и содержит 95,2 млн параметров; метаданные указывают контекст до 514 токенов, а обучение ограничивало последовательности 128 токенами. В карточке указан английский язык. Доступны веса PyTorch; библиотека SentenceTransformers подходит для получения эмбеддингов. Модель не предназначена для генерации текста: её основной результат — векторное представление предложения. Эффективность может зависеть от языка и предметной области, поскольку карточка описывает обучение на смешанных данных и указывает английский как язык модели. Условия лицензии в предоставленных данных не приведены.
Карточка модели eadx/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.
Это дообученный на 5 509 парах «запрос—документ» англоязычный энкодер предложений mazej на базе sentence-transformers/all-MiniLM-L6-v2. Модель построена на архитектуре BERT и преобразует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. В README указана максимальная длина последовательности 256 токенов, а в метаданных — контекст 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. Её можно применять для ранжирования документов по близости к запросу и группировки похожих текстов. Обучение выполнено с MultipleNegativesRankingLoss; модель распространяется в формате safetensors, для работы используется библиотека Sentence Transformers. Сведения о лицензии в предоставленных данных отсутствуют.
KhaledReda разработал англоязычную модель Sentence Transformer, дообученную на sentence-transformers/all-MiniLM-L6-v2 на парах текстов с оценками сходства. Энкодер на архитектуре BERT преобразует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. В README указан максимальный размер последовательности 256 токенов, а метаданные задают нативный контекст в 512 токенов. Модель предназначена для семантического сравнения текстов, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Её можно применять для получения эмбеддингов документов и вычисления релевантности пар предложений. Модель работает с английским языком; данные описаны как пары предложений с оценками, а обучение проводилось с CoSENTLoss. Модель распространяется под лицензией Apache-2.0. Это компактный энкодер с 25,9 млн параметров; фактические результаты зависят от текста и области применения, а вход длиннее ограничения последовательности может быть усечён.
Alessio-Borgi опубликовал дообученную модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2. Она кодирует предложения и абзацы в плотные векторы размерности 768, нормализованные для сравнения по косинусному сходству. Модель использует MPNet с усреднением токенных представлений и рассчитана на последовательности длиной до 514 токенов по метаданным Hugging Face; в README указано ограничение 384 токена. Дообучение с TripletLoss ориентировано на улучшение семантического сравнения текстов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста, а также для построения эмбеддингов в прикладных системах. Она принимает и возвращает текстовые представления в виде векторов. Лицензия в предоставленных данных не указана.
mrcuddle/arcee-fusion-lumaid-12B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit и метода Arcee Fusion. В качестве базовой модели использована mistralai/Mistral-Nemo-Instruct-2407; в объединение также вошла NeverSleep/Lumimaid-v0.2-12B. Модель содержит 12,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалога и генерации текста по инструкциям. Её можно применять для ответов на вопросы, написания и редактирования текстов, а также сценариев с интерфейсом вызова инструментов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. В метаданных и README не приведены результаты оценки качества или условия лицензии, поэтому пригодность для конкретных задач и правомерность использования следует проверять по исходным карточкам обеих базовых моделей и условиям публикации этой модели.
Это англоязычная модель Sentence Transformer, созданная sobamchan дообучением google-bert/bert-base-uncased на наборе all-nli. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения смысловой близости с помощью косинусного сходства. Модель построена на архитектуре BERT с усреднением токенных представлений; максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации текстов, классификации на основе эмбеддингов и оценки сходства предложений. В README приведён результат на sts-dev: Spearman correlation 0,8025. Модель принимает текст и выдаёт векторы; карточка указывает английский язык. Лицензия в предоставленных данных не указана.
Англоязычная модель Sentence Transformer, дообученная автором aritrasen на BAAI/bge-base-en-v1.5. Она кодирует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу и сравнения текстов. В архитектуре используются BERT, пулинг по CLS-токену и нормализация; сходство можно оценивать косинусной мерой. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска, подбора похожих предложений, поиска перефразировок, кластеризации и извлечения признаков для классификации текста. В README указано обучение на 9 598 примерах с MultipleNegativesRankingLoss. Модель распространяется под лицензией базовой модели; сведения о лицензии в предоставленных данных отсутствуют.
BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели charlesteve26/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели jpbalarini/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели mykor/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели StephenViven/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели the-sk/bge-m3 на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
Карточка модели daitavan/bge-m3-finetune на Hugging Face совпадает с карточкой BAAI/bge-m3, поэтому описание составлено по ней. BGE-M3 — многоязычная модель эмбеддингов для поиска, разработанная BAAI и основанная на архитектуре XLM-RoBERTa. Она создаёт плотные эмбеддинги, разреженные лексические представления и многовекторные представления текста для задач извлечения и сопоставления.
bge-micro — компактная модель эмбеддингов предложений на базе архитектуры BERT, опубликованная TaylorAI. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 18,8 млн параметров, использует контекст длиной до 512 токенов и доступна в форматах PyTorch, safetensors и ONNX. Модель дистиллирована из TaylorAI/bge-small-en-v1.5 и предназначена для сценариев, где важны небольшие вычислительные затраты при сохранении качества эмбеддингов, близкого к all-MiniLM-L6-v2. Она ориентирована на английский язык. Лицензия в предоставленных данных не указана.
bge-micro-v2 — компактная модель эмбеддингов предложений семейства BERT, опубликованная SmartComponents. Она преобразует предложения и абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Модель содержит 18,8 млн параметров, поддерживает контекст до 512 токенов и доступна в форматах PyTorch и ONNX. Это дистиллированная модель: двухэтапное обучение началось с bge-micro и опиралось на BAAI/bge-small-en-v1.5. Модель предназначена для построения векторного поиска и группировки текстов; README описывает применение через Sentence-Transformers либо Transformers с подходящей операцией pooling. Лицензия в предоставленных данных не названа, поэтому условия её использования здесь определить нельзя.
casperhansen/deepseek-r1-distill-llama-8b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-8B, опубликованная пользователем Casper Hansen на Hugging Face. Исходную модель разработала DeepSeek; она создана дистилляцией DeepSeek-R1 в базовую архитектуру Llama 3.1 8B с использованием синтетических образцов, с акцентом на рассуждения. Репозиторий Casper Hansen содержит веса в формате Safetensors и конфигурацию для запуска квантизованной модели. Модель предназначена для текстовой генерации и задач, требующих языкового и логического рассуждения, включая ответы на вопросы, математические и программные задачи. Она использует архитектуру LlamaForCausalLM, около 8 млрд параметров, 32 слоя, 32 attention-heads и 8 key-value heads. Конфигурация указывает контекст до 131 072 токенов, хотя практическая поддержка зависит от используемого ПО и ресурсов. Мультимодальность не заявлена; модель работает с текстом. Квантизация снижает требования к памяти и ускоряет локальный запуск, но может ухудшать качество по сравнению с полной точностью. Карточка производной модели почти не содержит описания, поэтому подробные сведения о бенчмарках, ограничениях безопасности, языковой поддержке и рекомендуемых сценариях именно этой AWQ-сборки отсутствуют. В репозитории указана лицензия MIT; при использовании также следует учитывать условия исходной модели DeepSeek-R1-Distill-Llama-8B.
mlx-community/DeepSeek-R1-Distill-Qwen-32B-abliterated — 32-миллиардная языковая модель для генерации текста и диалогов. Репозиторий mlx-community содержит версию в формате MLX, преобразованную из huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated с помощью mlx-lm 0.21.1. По метаданным, модель построена на плотной архитектуре Qwen2, поддерживает контекст до 131 072 токенов и предназначена для текстовых задач, включая рассуждения. Вариант abliterated модифицирован для уменьшения отказов. Лицензия в предоставленных данных не указана.
DeepSeek-V4-Flash-0731 — Abliterated — это дообученная и изменённая версия DeepSeek-V4-Flash-0731, разработанного DeepSeek. Модель предназначена для генерации текста, агентного программирования, рассуждений, инструментального вызова и работы с длинным контекстом. Это текстовая модель на архитектуре Mixture-of-Experts с 284 млрд параметров всего и примерно 13 млрд активных параметров. Она содержит 43 слоя, 256 маршрутизируемых экспертов с выбором top-6, одного общего эксперта, гибридное внимание CSA и HCA, Lightning Indexer, mHC-гиперсвязи и встроенную трёхступенчатую DSpark draft head. Нативный контекст составляет 1 048 576 токенов, в указанной конфигурации модель обслуживается с контекстом 262 144 токена. Поддерживаемые языки в README не указаны, модальность — текстовая. Модель сохраняет исходные эксперты, маршрутизаторы, эмбеддинги, нормализации, параметры mHC и компоненты инструментального вызова; изменены только проекции выходов внимания в 46 модулях. По заявлению авторов, это устраняет поведение отказа: в проведённых тестах доля отказов составила 0%, а соответствие вызовам инструментов — 100%. При этом результаты отражают ограниченные выборки и не доказывают абсолютное отсутствие отказов или ошибок. Модель позиционируется как uncensored и может отвечать на потенциально опасные запросы, поэтому требует осторожного применения и локального запуска на контролируемом оборудовании. Размер составляет около 167 ГБ, используется нативная точность FP4 и FP8 без дополнительного квантования; для указанной конфигурации требуется распределённый запуск на двух NVIDIA DGX Spark с vLLM. Лицензия — MIT. Модель ориентирована прежде всего на локальное и исследовательское использование; ограничения по безопасности и ответственность за применение лежат на пользователе.
puwaer/DeepSeek-V4-Flash-0731-reap-200b-gguf — это GGUF-сборка модели puwaer DeepSeek-V4-Flash-0731-reap-200b, подготовленная для запуска через llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений и задач с вызовом инструментов; встроенный шаблон чата поддерживает режим рассуждений и tool calling в OpenAI-совместимом формате. Это разреженная Mixture-of-Experts-модель с 178 маршрутизируемыми экспертами на слой вместо 256 у базовой версии. Сборка доступна в вариантах MXFP4_MOE, Q3_K_M, IQ3_XXS, Q2_K и IQ1_M размером примерно от 56,36 до 103,85 GiB. Вариант MXFP4_MOE численно идентичен исходному safetensors-чекпойнту, а остальные варианты являются повторной квантизацией уже 4-битных данных и могут заметнее снижать качество. В README подтверждён контекст 4096 токенов для примера запуска; поддерживаемые языки и точный максимальный контекст не указаны. Сильные стороны модели — существенно меньший размер по сравнению с базовой версией на 284B параметров, сохранение высокой точности на ряде тестов и поддержка рассуждений и инструментов. Бенчмарки квантованных вариантов отдельно не проводились, поэтому их качество не измерено. Для запуска рекомендуется полный GPU-offload; самая крупная сборка занимает 103,85 GiB и не помещается на одной видеокарте с 96 GiB памяти. Частичный offload и распределённый запуск не были проверены. Модель распространяется по лицензии MIT.
distiluse-base-multilingual-cased — многоязычная модель Sentence-Transformers, обученная командой sentence-transformers. Она кодирует предложения и абзацы в плотные векторы размерностью 512 для поиска семантически близких текстов, кластеризации и сравнения предложений. В основе лежит DistilBERT; модель поддерживается библиотекой Sentence-Transformers, принимает текстовые фрагменты длиной до 512 токенов и выдаёт векторные представления. Репозиторий содержит веса в форматах PyTorch, safetensors, TensorFlow, ONNX и OpenVINO. Модель подходит для семантического поиска, группировки похожих документов и вычисления сходства между предложениями на разных языках. Она выпущена под лицензией Apache-2.0. Качество и языковое покрытие могут различаться между языками; README не приводит конкретного перечня поддерживаемых языков или результатов оценки.
E5-base-multilingual-4096 — многоязычная модель эмбеддингов на архитектуре XLM-RoBERTa, разработанная как версия Local-Sparse-Global модели intfloat/multilingual-e5-base. Она кодирует запросы и текстовые фрагменты в векторные представления для сравнения смысловой близости и ранжирования, в том числе в сценариях поиска по коллекции документов. Модель содержит 305,2 млн параметров и поддерживает контекст до 4098 токенов. Модель предназначена для многоязычных задач семантического поиска и сопоставления предложений; README приводит пример кодирования запросов и пассажей из MS-MARCO. В метаданных указана поддержка множества языков, включая английский, немецкий, французский, испанский, китайский и другие. Репозиторий содержит веса PyTorch. Лицензия в предоставленных сведениях не указана.
tasksource/ettin-17m-embed — компактная модель Sentence Transformer, дообученная Tasksource на базе jhu-clsp/ettin-encoder-17m. Она преобразует текстовые фрагменты в векторы размерностью 256 для поиска семантически близких предложений и текстов; для сравнения векторов используется косинусное сходство. Модель построена на архитектуре ModernBERT, содержит 16,8 млн параметров и поддерживает последовательности до 1024 токенов по README; метаданные указывают контекст до 7999 токенов. Модель рассчитана на английский язык. При обучении использовались наборы данных для семантического сходства, поиска, сопоставления вопросов и ответов, определения дубликатов и других задач понимания текста. Её можно применять для семантического поиска, поиска похожих предложений и построения эмбеддингов для ранжирования или группировки текстов. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.
FMMB-BE (Fairly Multilingual ModernBERT Embedding Model, Belgian Edition) — модель эмбеддингов на базе ModernBERT-Embed-Base от Nomic AI, дообученная автором карточки на параллельных предложениях. Она предназначена для преобразования текстов на французском, нидерландском, немецком и английском языках в плотные векторы, выровненные между языками. Модель использует архитектуру ModernBERT с усреднением токенных представлений и выдаёт векторы размерности 768. Для каждого текста автоматически выбирается подходящий языковой токенизатор; тексты на разных языках можно обрабатывать в одном пакете. Максимальная длина входа — 8192 токена. Модель подходит для семантического поиска, сравнения предложений, поиска перефразировок, классификации и кластеризации текстов. Карточка отмечает, что модель обучена без учителя на параллельном корпусе и рекомендует дообучить её под конкретный сценарий. Заявленная лицензия — Apache-2.0.
Это англоязычная модель Sentence Transformers, дообученная на наборе PiC/phrase_similarity на базе google-bert/bert-large-uncased. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 и оценивает смысловую близость с помощью косинусного сходства. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Архитектура состоит из BERT Large и mean pooling; максимальная длина последовательности — 512 токенов. Модель работает с текстом на английском языке и формирует векторные представления для последующего сравнения. В README приведены результаты оценки на наборах для классификации пар предложений, но они не гарантируют качество на других данных. Использование распространяется по лицензии базовой модели; сведения о лицензии самой модели в предоставленных данных отсутствуют.
Карточка модели AlisherAmirbek/fine-tuned-bge-small на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.
kimquynh/finetuned_sbert_6 — англоязычная Sentence Transformer, дообученная автором на базе BAAI/bge-base-en-v1.5 для поиска и сравнения текстов. Архитектура включает BERT, пулинг CLS и нормализацию эмбеддингов; модель содержит 136,7 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 768. Максимальная длина последовательности — 512 токенов, сходство оценивается косинусной мерой. Модель подходит для семантического поиска, извлечения релевантных текстов и сравнения предложений. В карточке приведены результаты оценки сходства и бинарной классификации на данных о резюме и вакансиях; обучающий набор содержит 6241 пару предложений. Модель принимает текст и выдаёт эмбеддинги. Репозиторий использует формат safetensors и библиотеку Sentence Transformers. Условия лицензии в предоставленных данных не описаны.
Gemma 4 12B IT INT4 — MLP-only, AutoRound — это квантизированный вариант модели google/gemma-4-12B-it, опубликованный aleksandard. Модель предназначена для диалоговых и генеративных задач, включая работу с текстом, изображениями и аудио, поскольку базовая модель имеет unified-мультимодальную архитектуру и pipeline image-text-to-text. Она подходит для локального запуска через vLLM или Transformers при наличии совместимой аппаратной и программной инфраструктуры. В основе лежит плотная модель примерно на 11,95 млрд параметров. Квантизация выполнена методом intel/auto-round в режиме RTN по схеме W4A16 с размером группы 128 и симметричным представлением, с экспортом в GPTQ-совместимый формат. До 4 бит уменьшены только линейные слои MLP: gate_proj, up_proj и down_proj. Проекции внимания q/k/v/o, эмбеддинги, lm_head, а также vision- и audio-эмбеддеры сохранены в BF16 или полной точности. Размер чекпойнта составляет около 11 ГБ вместо примерно 24 ГБ для BF16, что снижает требования к памяти. Сильная сторона сборки — компромисс между уменьшением объёма модели и сохранением качества внимания: чувствительные квантизации компоненты оставлены в BF16. Ограничения связаны с наследованием всех ограничений и смещений базовой Gemma 4, а также с возможным дополнительным снижением качества из-за 4-битной RTN-квантизации без калибровки. Для vLLM требуется nightly-сборка с поддержкой Gemma 4; на Blackwell необходимо отключать FlashInfer sampler. В README указана лицензия Apache 2.0, унаследованная от базовой модели.
LibertAIDAI/Gemma-4-12B-IT-NVFP4-GGUF — это текстовая GGUF-квантизация инструкционной модели google/gemma-4-12B-it, подготовленная LibertAI с использованием NVIDIA ModelOpt и предназначенная для запуска через llama.cpp. Модель ориентирована на генерацию текста, диалоговые приложения, локальное и серверное инференс-использование; по умолчанию формирует рассуждение перед ответом. Модель представляет собой плотный decoder примерно на 11,9 млрд параметров с 48 слоями и гибридным механизмом внимания: большинство слоёв используют локальное sliding-window attention, а каждый шестой слой — глобальное внимание. Квантизации NVFP4 подвергнуты 144 проекции плотных FFN-слоёв; attention, embeddings и lm_head используют отдельные форматы GGUF. Доступны варианты Q4_K_M размером около 6,5 GiB, Q8_0 размером 7,8 GiB и BF16 размером 10,8 GiB. Релиз текстовый: мультимодальные возможности исходной Gemma 4 не поддерживаются, поскольку конвертер llama.cpp пока не поддерживает используемый unified-вариант. Главное преимущество NVFP4 проявляется на видеокартах NVIDIA Blackwell, включая RTX 50-й серии, B100 и B200: нативные tensor-core kernels могут повысить пропускную способность и снизить потребление VRAM по сравнению со стандартными квантизациями. На более старых GPU модель запускается, но преимуществ в производительности может не быть. Модель унаследовала лицензию Gemma от Google; для использования необходимо соблюдать условия этой лицензии.