II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейcstr/bge-m3-GGUF — это конвертированная в формат GGUF версия модели BAAI/bge-m3, разработанной BAAI. Репозиторий предназначен для запуска модели через лёгкий C/C++-движок CrispEmbed на базе ggml, без Python и ONNX. Модель предназначена для получения текстовых эмбеддингов и задач многоязычного семантического поиска и извлечения информации. BGE-M3 поддерживает плотное, разреженное и многовекторное представление ColBERT в одной модели, заявлена поддержка более 100 языков и контекста до 8192 токенов. Архитектура — XLM-R; модель содержит 568 млн параметров, 24 слоя, размерность эмбеддингов 1024, использует mean pooling и токенизатор SentencePiece. Указана только текстовая модальность. Доступны варианты квантования Q4_K размером 438 МБ и Q8_0 размером 583 МБ, а также версия F32 размером 2175 МБ. Преимущество GGUF-версии — возможность локального и ресурсоэффективного запуска, включая серверный режим CrispEmbed. Согласно README, результаты проверены на битовое соответствие реализации sentence-transformers с косинусным сходством не менее 0,999 на тестовых текстах. Ограничение состоит в том, что репозиторий выполняет только конвертацию и/или квантование исходных весов; сведения о качестве, обучающих данных и возможностях следует уточнять в карточке BAAI/bge-m3. Модель распространяется по лицензии MIT, при этом репозиторий не предоставляет прав сверх лицензии исходной модели.
upskyy/bge-m3-korean — модель Sentence Transformers, дообученная разработчиком upskyy на базе BAAI/bge-m3 на наборах korsts и kornli. Она кодирует предложения и абзацы в плотные векторы размерностью 1024 и предназначена для сравнения смысловой близости текстов; сходство оценивается косинусной мерой. Архитектура основана на XLM-RoBERTa с усреднением токенных представлений, максимальная длина последовательности — 8192 токена. Модель подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текстов. Основной целевой язык — корейский; метаданные также отмечают многоязычную поддержку. В README приведена оценка на sts-dev: корреляция Спирмена для косинусного сходства 0,8724. В репозитории указаны веса safetensors. Лицензия в предоставленных данных не приведена.
BorisTM/bge-m3-unsupervised_en_ru — уменьшенная по словарю версия модели BAAI/bge-m3-unsupervised, предназначенная для создания эмбеддингов английских и русских текстов и сравнения предложений. Разработчик оставил в словаре токены только для английского и русского языков: размер словаря составляет 21% от исходного, а число параметров — 63,3% от исходного. В репозитории указано 449,9 млн параметров; архитектура основана на XLM-RoBERTa, максимальная длина контекста — 8194 токена. Модель подходит для семантического поиска, сопоставления предложений и построения векторных представлений текстов на английском и русском языках. В README заявлено, что сокращение словаря не снизило качество эмбеддингов для этих языков. Для использования через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов. Веса опубликованы в формате safetensors; лицензия в предоставленных данных не указана.
Supabase/bge-small-en — это англоязычная версия модели встраивания текста BGE, опубликованная Supabase в формате ONNX для работы с Transformers.js. Модель основана на архитектуре BERT, содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. В карточке указано, что исходная линейка BGE разработана командой BAAI; эта версия представляет собой форк с весами ONNX. Модель преобразует текст в плотные векторы для семантического поиска, поиска релевантных фрагментов по запросу, кластеризации и классификации. Для поиска документов README рекомендует добавлять к запросу инструкцию «Represent this sentence for searching relevant passages: ». Векторы можно использовать в векторных базах данных, в том числе для приложений с RAG, а запуск поддерживается через JavaScript и Transformers.js. Модель рассчитана на английский язык и имеет лицензию MIT. Это компактный вариант BGE, удобный для JavaScript-приложений и сценариев, где важны размер модели и получение эмбеддингов; окно контекста ограничено 512 токенами.
teven/bi_all_bs192_hardneg_finetuned_WebNLG2020_relevance — модель эмбеддингов предложений на базе MPNet, созданная для оценки семантической близости. Она преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска, кластеризации и сопоставления текстов. В метаданных указано 136,7 млн параметров, контекст — до 514 токенов; модель использует PyTorch и интерфейс Sentence Transformers. Модель обучена с CosineSimilarityLoss на данных, связанных с WebNLG2020; название также указывает на обучение с hard negatives. Она принимает текст и выдаёт векторы, которые можно использовать для ранжирования или поиска похожих фрагментов. Карточка не указывает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
Это дообученная Sentence Transformer-модель от hoamai1509 на базе bkai-foundation-models/vietnamese-bi-encoder. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости, поиска и группировки текстов. Архитектура использует RoBERTa с усреднением токенных представлений; сходство вычисляется косинусной мерой. Модель рассчитана на вьетнамский язык и обрабатывает последовательности длиной до 258 токенов по метаданным.
nayan06/buy-others1 — модель Sentence-Transformers на базе MPNet, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Полученные представления можно применять для семантического поиска и кластеризации текстов. В README указано обучение с функцией потерь CosineSimilarityLoss; репозиторий содержит веса PyTorch, объём модели — 136,7 млн параметров, контекст — до 514 токенов. Модель подходит для задач сравнения смысловой близости текстов и построения эмбеддингов. В README не названы разработчик исходной архитектуры, обучающие данные, поддерживаемые языки и лицензия, поэтому эти характеристики нельзя уточнить по доступным сведениям.
CodeGemma 7b Instruct — инструкционная языковая модель для генерации и анализа программного кода, разработанная Google. В каталоге указана её GGUF-версия для локального запуска; квантизация выполнена bartowski на основе llama.cpp. Модель предназначена прежде всего для ответов на вопросы по программированию, генерации кода и работы в инструментах наподобие Copilot, включая сценарии autocomplete и fill-in-the-middle. Модель относится к семейству Gemma, имеет заявленный размер 7B параметров; в метаданных LM Studio указано 8B. Она работает в текстовой модальности, поддерживает инструкционный формат Google Gemma Instruct и не использует системный prompt. В README не указаны контекстное окно и полный перечень языков, однако приведены примеры генерации кода на C++, Java и React. Сильная сторона модели — специализация на задачах программирования и возможность локального использования в формате GGUF. Ограничения включают отсутствие поддержки системного prompt и недостаток сведений о контекстном окне, языковом покрытии и качестве на конкретных тестах. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; применимая лицензия — Gemma, условия опубликованы Google.
CodeShell-7B-Chat — чат-модель для программирования, разработанная Knowledge Computing Lab Пекинского университета совместно с AI-командой Sichuan Tianfu Bank. Это плотная авторегрессионная модель семейства CodeShell на 7 млрд параметров, построенная на архитектуре GPT-2 с Grouped-Query Attention и позиционным кодированием RoPE. По данным карточки, базовую модель CodeShell обучали на 500 млрд токенов; контекст составляет около 8 тысяч токенов. Репозиторий содержит веса в формате PyTorch. Модель предназначена для генерации и обсуждения кода, а также для сценариев помощника разработчика, включая работу в IDE. В карточке сообщается о результатах на HumanEval и MBPP, но эти оценки не гарантируют такого же качества на других языках программирования и задачах. Данные указывают на поддержку китайского и английского языков; отдельные ограничения качества и условия лицензии в предоставленной карточке не описаны.
MassTool/contriever-base-msmarco-v1-ToolBenchG2 — модель Sentence-Transformers на базе архитектуры BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, семантического поиска и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт векторные представления; в README также описано обучение с MultipleNegativesRankingLoss и косинусным сходством. Данных о целевых языках и специализации на конкретной предметной области нет.
Это англоязычная модель Sentence Transformer, дообученная Komalverma на базе BAAI/bge-base-en-v1.5. Она кодирует предложения и абзацы в плотные текстовые эмбеддинги размерности 768 и предназначена для поиска и сравнения текстов по семантическому сходству. Сходство между векторами можно оценивать косинусной мерой. Модель построена на архитектуре BERT с усреднением токенных представлений; максимальная длина входа — 512 токенов. Обучение выполнено на 47 056 парах предложений, а в метаданных указан DenoisingAutoEncoderLoss. Модель подходит для семантического поиска и извлечения релевантных документов, в том числе как компонент RAG. Лицензия в предоставленных данных не указана.
Это дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Она кодирует предложения и абзацы в плотные векторы размерности 384 и предназначена для сравнения семантической близости, поиска похожих текстов и кластеризации. Архитектура включает BERT-трансформер и усреднение токенных представлений; сходство оценивается косинусной метрикой. Модель дообучена на 1 800 парах текстов с ContrastiveLoss. Примеры обучающих данных и название модели указывают на акцент на текстах на хинди. Максимальная длина последовательности в конфигурации README — 128 токенов; метаданные указывают контекст до 512 токенов. Для сопоставления текстов следует учитывать предел 128 токенов из описания Sentence Transformers. Размер модели — 124,3 млн параметров; формат весов — safetensors. Лицензия в предоставленных данных не указана.
DeepSeek-Coder-V2-Lite-Instruct-GGUF — это GGUF-квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek и квантизированной пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и ассистирования в задачах программирования, включая написание и обработку кода, однако конкретный перечень поддерживаемых языков программирования и естественных языков в README не указан. Доступны варианты квантизации от Q2_K и IQ2_M до Q8_0 и экспериментального Q8_0_L, с размером файлов примерно от 6,32 до 17,09 ГБ. Более компактные варианты экономят оперативную память ценой снижения качества, тогда как Q5–Q8 описываются как высококачественные; для ряда конфигураций рекомендуются Q4–Q6. Варианты с суффиксом L используют F16 для весов embedding и output и отмечены как экспериментальные. Архитектура, число параметров, модальности, размер контекста и языки модели в предоставленном README не указаны. Модель рассчитана на локальный запуск через llama.cpp и использует специальный формат промпта с system prompt, сообщениями User и Assistant. Лицензия обозначена как deepseek-license; подробные условия в README не приведены, поэтому перед использованием следует ознакомиться с файлом LICENSE. Основные ограничения — отсутствие в README точных сведений о базовой архитектуре и характеристиках, а также неизбежная зависимость качества и требований к памяти от выбранного уровня квантизации.
DeepSeek-Coder-V2-Lite-Instruct-GGUF — квантизированная версия модели DeepSeek-Coder-V2-Lite-Instruct, разработанной DeepSeek-AI и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для запуска через GaiaNet и совместима с шаблоном запросов deepseek-chat-2. Модель ориентирована на задачи, связанные с программированием и обработкой инструкций. В README указано, что она основана на архитектуре deepseek и поддерживает контекст размером до 128 000 токенов. Дополнительные сведения о размере модели, языках программирования и поддерживаемых модальностях не приведены; по имеющимся данным, модель относится к текстовым, а не мультимодальным решениям. К преимуществам относятся большой контекст и возможность локального запуска в формате GGUF через экосистему GaiaNet. К ограничениям относятся отсутствие в README подробных характеристик качества, перечня языков, требований к ресурсам и результатов бенчмарков. Модель распространяется по лицензии deepseek-license; тип лицензии обозначен как other, поэтому перед использованием следует ознакомиться с условиями файла LICENSE.
DeepSeek-R1-Distill-Qwen-7B-bnb-4bit — это 4-битно квантованная версия модели DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на базовой модели deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Модель относится к семейству плотных языковых моделей Qwen, дистиллированных из DeepSeek-R1, и предназначена для исследовательских и прикладных задач, требующих рассуждений, включая решение математических задач, программирование, анализ и генерацию текста. В README также упоминается применение для диалоговых сценариев и текстового завершения через экосистему Transformers и инструменты Unsloth. Модель имеет размер 7B параметров и поддерживает английский язык; другие языки и мультимодальные возможности в предоставленных данных не указаны. Суффикс bnb-4bit указывает на 4-битное представление в формате, связанном с bitsandbytes, что снижает требования к памяти и делает запуск доступнее на ограниченных по ресурсам GPU, однако может сопровождаться компромиссом между качеством и точностью по сравнению с полной точностью. Архитектурные детали и размер контекста в README не приведены. Сильной стороной модели являются возможности рассуждения, унаследованные от DeepSeek-R1 и дистиллированные в компактную 7B-модель, а также более экономичное потребление памяти благодаря квантованию. Ограничения включают возможные ошибки, недостаточную читаемость или смешение языков, характерные для reasoning-моделей и упомянутые в контексте исходного семейства; конкретные результаты для этой версии не указаны. Модель распространяется по лицензии Apache-2.0.
voidism/diffcse-bert-base-uncased-sts — модель для получения векторных представлений предложений, основанная на BERT-base-uncased и обученная методом DiffCSE. DiffCSE — разработанная Yung-Sung Chuang и соавторами схема контрастивного обучения без разметки: она обучает представления учитывать смысловые различия между исходным и отредактированным предложениями. В README метод показал улучшение результатов на задачах семантического сходства текста по сравнению с unsupervised SimCSE. Модель предназначена для извлечения эмбеддингов предложений, в том числе для оценки семантического сходства и построения систем поиска по смыслу. Это плотная модель семейства BERT с 136,7 млн параметров и контекстом до 512 токенов; принимает текст и выдаёт векторные представления. Карточка описывает DiffCSE для английских моделей BERT и RoBERTa, а данный репозиторий относится к варианту BERT-base-uncased для STS. Лицензия — Apache-2.0. README упоминает необходимость специализированной версии Transformers для обучения DiffCSE; для использования готовой модели рекомендует API SimCSE.
Dolphin 2.8 Experiment26 7B — языковая модель, разработанная Eric Hartford и дообученная на базе Experiment-26 от Yam Peleg. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для диалогов и генерации кода. Она принимает запросы в формате ChatML и поддерживает контекст до 32 768 токенов по метаданным; в README для базовой модели указано 16 тысяч токенов. Для обучения использовались QLoRA и Axolotl, а среди датасетов указаны наборы для диалогов и программирования. Модель подходит для помощи в написании и объяснении кода, а также для обычных текстовых диалогов на английском языке. Доступны веса PyTorch, лицензия Apache-2.0 разрешает коммерческое использование. README помечает модель как экспериментальную; опубликованных оценок качества в карточке нет.
mlx-community/dolphin-2.9-llama3-8b-4bit-mlx — 4-битная конверсия в формат MLX модели Dolphin 2.9 от Cognitive Computations, выполненная сообществом mlx-community с помощью mlx-lm 0.10.0. В основе — дообученная Meta Llama 3 8B с плотной архитектурой LlamaForCausalLM; в метаданных указано 7,5 млрд параметров и контекст 8192 токена. Модель предназначена для диалоговой генерации текста и ответов на инструкции; среди обучающих данных есть наборы для кода, математики, общения и вызова функций. Модель принимает текст и генерирует текст. Карточка описывает запуск через mlx-lm. Лицензия указана как other, поэтому условия использования следует сверить с исходной карточкой модели и лицензией базовой Meta Llama 3. Подробные сведения об ограничениях и языковом покрытии в доступной карточке не приведены.
Это перенос facebook/dragon-plus-context-encoder в формат Sentence-Transformers. Модель на основе BERT с 136,7 млн параметров преобразует предложения и абзацы в плотные векторы размерности 768; для получения эмбеддингов используются контекстные представления токенов и подходящая операция pooling. Модель предназначена для семантического поиска, кластеризации текстов и сравнения сходства предложений. Она принимает текст и выдаёт векторные представления. Максимальная длина контекста составляет 512 токенов. Репозиторий содержит веса PyTorch; в карточке не указаны лицензия и поддерживаемые естественные языки.
E5-small-v2-t2t — нидерландская адаптация модели intfloat/e5-small-v2, созданная с помощью transtokenizer на основе токенизатора BERTje. Модель использует архитектуру BERT и содержит 39,9 млн параметров; она преобразует текст в эмбеддинги для семантического поиска, сопоставления предложений и оценки их сходства. Подходит для поиска и ранжирования текстов на нидерландском языке, а также для задач извлечения признаков и группировки текстов. Максимальная длина контекста — 512 токенов. Выпускается под лицензией MIT.
suayptalha/Falcon3-Jessi-v0.4-7B-Slerp — языковая модель на 7,1 млрд параметров, полученная слиянием SLERP моделей neopolita/jessi-v0.4-falcon3-7b-instruct и tiiuae/Falcon3-7B-Instruct. Она предназначена для диалогов и генерации текста по инструкциям, включая задачи рассуждения, понимания языка, программирования и математики. Модель использует архитектуру LlamaForCausalLM, сохранена в формате safetensors и поддерживает контекст до 32 768 токенов. Заявлена поддержка английского, французского, испанского и португальского языков. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH, а также утверждение о высоком рейтинге модели на момент публикации. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и у исходных моделей.
Это конверсия модели распознавания речи Whisper large-v3 от OpenAI в формат CTranslate2, опубликованная Systran. Она предназначена для распознавания речи из аудио и используется в CTranslate2 и проектах на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно изменить через параметр compute_type. Модель поддерживает распознавание речи на многих языках, в том числе русском и английском. Репозиторий содержит конвертированные веса, а не исходную реализацию Whisper. Лицензия — MIT.
Это модель Sentence Transformer, разработанная на основе BAAI/bge-base-en-v1.5 и дообученная на парах коротких запросов и фрагментов PDF. Она кодирует предложения и абзацы в плотные текстовые векторы размерностью 768, нормализованные для сравнения косинусным сходством. Архитектура включает BERT, пулинг CLS-токена и нормализацию; максимальная длина входа — 512 токенов. В метаданных указано 136,7 млн параметров. Модель предназначена для семантического поиска по PDF и другим текстам, сравнения сходства предложений, поиска перефразировок и кластеризации. В README приведены результаты поиска на наборе из 76 обучающих примеров; они могут не отражать качество на других данных. Модель ориентирована на английский язык, как и её базовая BGE-модель. Распространяется в формате safetensors; лицензия в предоставленных данных не указана.
Frontis-MA1-35B-GGUF — квантизированная версия модели FrontisAI/Frontis-MA1-35B, подготовленная bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для задач machine learning engineering, автоматизированного исследования, агентских сценариев и программирования. Она поддерживает обработку текста и изображений при наличии дополнительного файла mmproj. Модель содержит около 36 млрд параметров и использует архитектуру MoE; в метаданных также указана поддержка MTP. Доступны варианты от BF16 и Q8_0 до более компактных IQ- и Q3-квантизаций. В качестве универсального варианта рекомендуется Q4_K_M размером около 21,86 ГБ, обеспечивающий компромисс между качеством и требованиями к памяти. Для максимального качества предлагаются Q6_K и Q6_K_L, а для ограниченных ресурсов — более компактные варианты с некоторым снижением качества. К сильным сторонам относятся мультимодальность, большой размер модели и широкий выбор квантизаций для запуска на различном оборудовании. Ограничения включают значительные требования к оперативной или видеопамяти, необходимость совместимого ПО и mmproj-файла для работы с изображениями, а также возможное снижение качества у компактных квантизаций. Языки и размер контекстного окна в README не указаны. Распространение осуществляется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование на заявленных условиях.
FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL-notrescaled_20000 — модель в формате Sentence-Transformers на базе архитектуры RoBERTa, разработчик указан в идентификаторе репозитория как DragosGorduza. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска по смыслу, сравнения текстов и кластеризации. Обучение использовало MarginDistillationLoss; модель содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов. Для работы можно использовать библиотеку Sentence-Transformers либо Transformers с соответствующей операцией pooling. В репозитории указаны веса Safetensors. Язык обучающих данных и лицензия в предоставленных сведениях не отражены, поэтому их нельзя достоверно описать.
FuseAI/FuseChat-Llama-3.2-3B-Instruct — диалоговая языковая модель семейства Llama, разработанная FuseAI в рамках серии FuseChat-3.0. Это плотная авторегрессионная модель с 3,2 млрд параметров и контекстом до 131 072 токенов, предназначенная для генерации текста в ответ на инструкции и диалоговые запросы. Модель построена на основе Llama-3.2-3B-Instruct и улучшена методом неявного слияния возможностей нескольких крупных языковых моделей. Обучение включало supervised fine-tuning на лучших ответах и direct preference optimization на предпочтительных и менее предпочтительных ответах, сформированных с участием более крупных моделей. В карточке описаны улучшения для общего диалога, следования инструкциям, математики, программирования и китайского языка. Модель принимает текст и генерирует текст. В репозитории указаны веса Safetensors; метаданные не содержат сведений о лицензии, поэтому условия использования следует сверить с карточкой Hugging Face и лицензией базовой модели. Описание серии сообщает об улучшениях на бенчмарках, но приведённые количественные результаты относятся к отдельной конфигурации Llama-3.1-8B и не должны переноситься на эту версию 3B.
tepirale/gemma-4-12B-merge-coder40-agentic40-it20-linear — объединённая модель на архитектуре Gemma 4 Unified, созданная с помощью mergekit линейным слиянием трёх моделей: Gemma 4 12B IT от Google и двух вариантов Gemma 4 12B от tepirale, настроенных на кодирование и агентные задачи. В конфигурации указаны веса 0,4 для каждой специализированной модели и 0,2 для Gemma 4 IT, а также нормализация и формат bfloat16. Модель предназначена для диалога и генерации текста с визуальным вводом; объединение кодовой и агентной специализаций предполагает применение в программировании и агентных сценариях. Метаданные классифицируют её как image-text-to-text и отмечают поддержку vision. Базовая Gemma 4 12B IT описана как мультимодальная модель для анализа текста, изображений, видео и аудио, однако README этой модели не подтверждает сохранение всех этих возможностей после слияния. Модель распространяется по лицензии Apache-2.0. Размер параметров и длина контекста в предоставленных данных не указаны.
Gemma-4-31B-Fable-5-Distilled — мультимодальная модель AutoTrust AI Lab, обученная Hai Yu на базе google/gemma-4-31B-it методом LoRA. Это плотная модель с 31,27 млрд параметров в формате bfloat16 и архитектурой Gemma4ForConditionalGeneration, объединяющей текстовый декодер и визуальный энкодер. Адаптеры обучались на верхних слоях трансформера, чтобы улучшить генерацию кода и работу с инструментами, сохранив способности базовой модели к анализу изображений. Модель предназначена для агентной генерации и объяснения кода, планирования структурированных вызовов инструментов, визуального рассуждения и общего диалога. В README заявлен результат HumanEval pass@1 92,7%; он получен в конкретной конфигурации оценки и не гарантирует аналогичного качества на других задачах. Для обучения использовано 308 отобранных пар диалогов из Fable 5. Известные ограничения: небольшой обучающий набор может сужать переносимость на разные области программирования, качество ответов может снижаться без режима thinking, вызовы инструментов сериализуются в JSON и требуют отдельного слоя исполнения, а модель может допускать фактические ошибки и галлюцинации. Лицензия Gemma.
Это квантизированная версия мультимодальной модели Google Gemma 4 31B-it, опубликованная pearsonkyle в формате GGUF для llama.cpp, Ollama и LM Studio. Модель предназначена для генерации текста, программирования, работы с инструментами и function calling, агентских сценариев, а также анализа изображений. Поддерживается английский язык; заявлены текстовый и визуальный ввод. Доступны варианты IQ2_M, IQ3_M, IQ4_XS и Q5_K_S с размером примерно от 10,2 до 19,8 GiB и разной степенью сжатия. Версия IQ2_M использует 2-битную AWQ-квантизацию, настроенную на основе журналов задач программирования и tool use; автор заявляет повышение точности аргументов инструментов на 54% по сравнению с обычным вариантом при сопоставимом размере. Более качественные варианты используют hybrid imatrix. Модель также поддерживает MTP-драфтер для ускорения генерации, а для обработки изображений требуется отдельный vision-модуль mmproj размером около 772 МБ на базе SigLIP-подобного энкодера. Сильными сторонами являются сочетание программирования, tool use и vision, работа в стандартных локальных средах и возможность разместить конфигурацию Q5_K_S с текстовой моделью, MTP-драфтером и vision-модулем примерно в 24 ГБ видеопамяти. Ограничения связаны с потерями качества при низкобитной квантизации, особенно в варианте IQ2_M, необходимостью отдельного mmproj для изображений и отсутствием в предоставленных данных точного размера контекста и подробных результатов независимого тестирования. Лицензия указана как Gemma.
Gemma 4 E4B IT Coder — модель для помощи в программировании, созданная Joseph Mayo на основе google/gemma-4-E4B-it. Это плотная мультимодальная модель семейства Gemma 4, дообученная с помощью LoRA на 1024 безопасных примерах кода; веса адаптера объединены с базовой моделью и опубликованы в формате safetensors для Transformers. Модель поддерживает диалог и анализ изображений, а основное назначение версии — генерация и помощь с кодом. В описанной автором оценке на подмножестве из 50 задач HumanEval модель решила 42 задачи против 34 у базовой версии; результаты относятся только к указанному набору и методике. README характеризует обучение как ориентированное на безвредную помощь с программированием и сообщает об исключении ряда вредоносных примеров. Лицензия — Apache-2.0.