I.3Извлечение и структурирование данных

ArliAI-Llama-3-8B-Formax-v1.0-GGUF — это GGUF-квантизированная версия текстовой генеративной модели ArliAI-Llama-3-8B-Formax-v1.0, разработанной OwenArli и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска через llama.cpp, включая локальное использование на системах с ограниченными ресурсами. В основе лежит модель семейства Llama 3 с заявленным размером 8 млрд параметров. Доступны варианты от полного F32 до низкоразрядных Q2 и IQ-квантизаций; наиболее качественными и рекомендуемыми в README названы варианты Q5–Q6, а Q4_K_M описан как сбалансированный вариант по размеру и качеству. Модель работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в предоставленных данных отсутствуют. Для корректного общения следует использовать формат промпта Llama 3 с ролями system, user и assistant. Основное преимущество репозитория — широкий выбор квантизаций, позволяющий подобрать компромисс между качеством, размером файла и требованиями к памяти. Более компактные варианты подходят для устройств с небольшим объёмом RAM, но обеспечивают более низкое качество генерации. Модель распространяется по лицензии llama3; дополнительные ограничения и подробности лицензии в README не указаны.

Athena-R3-1.5B — причинная языковая модель на 1,5 млрд параметров, разработанная Aayan Mishra и дообученная на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B для усиления навыков рассуждения. Она предназначена для решения сложных задач, логического анализа, ответов на вопросы по математике и науке, а также для генерации, дополнения и суммаризации текста. Модель использует архитектуру Qwen2 с RoPE, SwiGLU, RMSNorm и Grouped Query Attention; в ней 24 слоя, 16 голов для запросов и 2 для ключей и значений. Контекст — до 131 072 токенов. Карточка указывает поддержку многих языков, включая английский, китайский, русский, французский, испанский, немецкий, японский и другие; лучше всего модель работает на английском. Доступны веса в формате safetensors, библиотека Transformers, лицензия MIT. Модель может ошибаться и наследует смещения обучающих данных; её знания ограничены августом 2024 года. Она не предназначена для критически важных систем реального времени или обработки чувствительных персональных данных.

Athene-V2-Chat-GGUF — набор квантизированных версий диалоговой языковой модели Athene-V2-Chat, разработанной Nexusflow и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в чат-сценариях и локального инференса, в том числе через LM Studio и совместимые инструменты llama.cpp. В README указан английский язык и текстовая модальность; исходная архитектура, число параметров и размер контекстного окна не приведены. Модель доступна в вариантах квантизации Q2–Q8 и IQ2–IQ4 с размерами файлов примерно от 25,49 до 77,26 ГБ. Старшие варианты Q5–Q8 обеспечивают более высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству. Некоторые варианты используют Q8_0 для весов embedding и output, а Q4_0_8_8 оптимизирован для ARM с поддержкой SVE и не рекомендуется для Mac или Windows. Указан специальный формат prompt с ролями system, user и assistant. Лицензия обозначена как other, без дополнительных условий в представленном README.

Aurora-Borealis-LLaMa-70B — экспериментальная объединённая языковая модель от автора Tarek07, созданная с помощью mergekit из нескольких моделей семейства LLaMa. В README описан метод слияния DARE TIES с градиентной настройкой влияния компонентов; базой указана TareksLab/MO-MODEL6-V0.1-LLaMa-70B. Архитектура — плотная авторегрессионная LLaMaForCausalLM, размер — 69,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Автор описывает её как эксперимент со слиянием специализированных моделей; README рекомендует температуру 1,0, Min P 0,02 и запускать квантованные варианты не ниже Q5. Доступны веса safetensors. Лицензия — llama3.3.

Awanllm-Llama-3-8B-Instruct-ORPO-v0.1-GGUF — набор GGUF-квантизаций инструкционной языковой модели Awanllm-Llama-3-8B-Instruct-ORPO-v0.1, разработанной AwanLLM. Квантизации подготовлены bartowski с использованием llama.cpp версии b2777 и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям; поддерживает формат промптов Llama 3 с ролями system, user и assistant. Модель относится к семейству Llama 3 и содержит 8 миллиардов параметров. Это текстовая модель без заявленной поддержки изображений или других модальностей. В README не указаны языки, размер контекста, результаты тестирования и конкретные сценарии применения. Доступны варианты квантизации от Q8_0 до низкобитных IQ2 и Q2, что позволяет выбирать баланс между качеством ответов, размером файла и требованиями к оперативной памяти. Наиболее высокое качество обеспечивают Q8_0 и Q6_K, а Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые; более компактные варианты экономят память, но могут заметно снижать качество. Файлы предназначены для локального запуска в совместимом программном обеспечении, включая llama.cpp. Ограничения включают зависимость качества от выбранного уровня квантизации, а также отсутствие в предоставленных данных сведений о безопасности, оценках качества и поддерживаемых языках. Указанная лицензия — llama3; условия её применения следует уточнять по лицензии исходной модели и соответствующим требованиям разработчика.

Beacon Qwen 2 7B Instruct — разговорная языковая модель семейства Qwen2, представленная в формате safetensors. README описывает Activation Beacon как подключаемый модуль для трансформерных LLM, предназначенный для эффективного сжатия длинного контекста; данных о том, как именно модуль связан с весами этой модели, нет. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и рассчитана на генерацию текста в чат-сценариях. В карточке указана лицензия MIT. README предупреждает, что превышение заданной длины контекста может привести к ошибкам или снижению производительности.

bert-base-nli-cls-token — модель sentence-transformers, обученная командой sentence-transformers на основе BERT. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов, кластеризации и сравнения предложений. Архитектура — BERT с 136,7 млн параметров; модель принимает текст, поддерживает контекст до 512 токенов и распространяется в форматах PyTorch, Safetensors, TensorFlow, Flax, ONNX и OpenVINO. Модель может служить базовым компонентом семантического поиска и группировки текстов. Авторы пометили её как устаревшую и предупреждают о низком качестве эмбеддингов; для новых задач рекомендуют выбрать более современные модели sentence-transformers. Лицензия — Apache-2.0.

Модель oguuzhansahin/bi-encoder-mnrl-dbmdz-bert-base-turkish-cased-margin_3.0-msmarco-tr-10k — турецкая sentence-transformers-модель на базе BERT, дообученная как bi-encoder для сопоставления запросов и текстов. Она преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска, ранжирования кандидатов по близости и кластеризации. Модель оценивали на 10 тысячах запросов из переведённого набора MSMARCO dev; в README приведены метрики поиска при разных настройках сходства. Число параметров — 137,8 млн, максимальная длина контекста — 512 токенов. Основное применение — поиск релевантных документов по запросу на турецком языке. Модель выдаёт эмбеддинги, а для получения результатов поиска их нужно сравнивать с эмбеддингами документов. Лицензия в предоставленных данных не указана.

Cerberus-7B-slerp — объединённая модель для генерации текста, созданная методом slerp с помощью mergekit на основе fblgit/UNA-TheBeagle-7b-v1 и UCLA-AGI/zephyr-7b-sft-full-SPIN-iter3. Это плотная Mistral-модель с 7,1 млрд параметров, принимающая текст и поддерживающая контекст до 32 768 токенов. Она подходит для генерации текста и диалоговых задач; в README приведены результаты Open LLM Leaderboard по рассуждениям и пониманию естественного языка. Модель распространяется в формате safetensors по лицензии Apache-2.0. Указанные результаты бенчмарков не гарантируют качество для конкретных задач; README не описывает целевые языки и отдельные специализированные области применения.

Cerberus-v0.1 — языковая модель BRAHMAI для генерации текста и диалогового взаимодействия. Это плотная трансформерная модель семейства Llama с 69,5 млрд параметров, реализованная для Transformers и распространяемая в формате safetensors. Контекстное окно составляет 8192 токена; в метаданных указан английский язык. Модель предназначена для создания текстов, перевода, суммаризации документов и ответов на вопросы. Её можно применять в творческом письме, подготовке кратких изложений и информационных чат-сценариях. Карточка заявляет поддержку нескольких языков, но не приводит их перечень или результаты численных бенчмарков. Модель выпущена в июне 2024 года. Лицензия — Llama 3 Community License (llama3). Карточка отмечает, что качество может различаться в зависимости от предметной области, а ответы могут упускать культурные и контекстные нюансы.

Это модель OpenCLIP, опубликованная LAION e.V. Она предназначена для сопоставления изображений с текстовыми описаниями и классификации изображений по текстовым меткам без отдельного обучения на этих метках. Архитектура — CLIP с визуальным энкодером ViT-L/14; модель обучена на наборе CommonPool-XL без фильтрации, в рамках серии DataComp XL. В опубликованных сведениях указаны 12,8 млрд шагов обучения и размер пакета 90 тысяч. Модель принимает изображения и текстовые подписи, кодирует их в совместимые векторы и позволяет оценивать сходство. Её можно применять для классификации по произвольным текстовым классам и поиска соответствия между изображением и подписью. Опубликована под лицензией MIT. Численные результаты для вариантов CommonPool XL приведены на ImageNet в документации OpenCLIP; показатели других задач из этого не следуют.

Cohere Transcribe Arabic — открытая модель распознавания речи на 2 млрд параметров, разработанная Cohere и Cohere Labs. Она предназначена для преобразования аудио в текст и оптимизирована для арабского языка, его диалектов и английской речи; также заявлена поддержка арабско-английской речи со смешением языков. В основе — архитектура Conformer encoder-decoder, модель поддерживается библиотекой Transformers и подходит для офлайн-инференса и обслуживания запросов через vLLM. Модель применима для транскрибации арабских аудиозаписей, распознавания диалектной речи и транскрибации английского аудио. Разработчики отмечают высокую точность на арабском и английском и эффективный инференс. Лицензия Apache-2.0. Модель лучше работает с одним заранее выбранным языком; автоматического определения языка нет, а качество на смешанной арабско-английской речи может быть нестабильным. Она не выдаёт временные метки и не выполняет диаризацию говорящих. На тишине и фоновых шумах может генерировать текст, поэтому перед распознаванием полезны шумовой фильтр или VAD.

Citaman/command-r-2-layer — слитая языковая модель на архитектуре Cohere, созданная автором репозитория с помощью mergekit. В неё включены слои модели Citaman/command-r-3-layer; использован метод SLERP. Метаданные описывают модель как дообучение этой базовой модели, а карточка указывает на слияние её слоёв. Модель предназначена для генерации текста и диалоговых сценариев, включая интерфейс вызова инструментов. Она содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Указан формат safetensors и библиотека Transformers. Данные не сообщают целевые языки или специальные прикладные области, поэтому модель следует рассматривать как универсальную. Лицензия в предоставленных сведениях не указана; качество и надёжность ответов отдельно не описаны.

DareBeagle-7B — текстовая генеративная модель на архитектуре Mistral, созданная shadowml путём слияния моделей NeuralBeagle14-7B и NeuralDaredevil-7B с помощью LazyMergekit и метода SLERP. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для генерации текста и ответов на запросы в диалоговых и других текстовых сценариях. В карточке приведены результаты оценки на бенчмарках рассуждений и здравого смысла, включая AI2 Reasoning Challenge и HellaSwag. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. Результаты бенчмарков не гарантируют качество на конкретных прикладных задачах; сведения о поддерживаемых естественных языках в карточке отсутствуют.

deepseek-r1-qwen-2.5-32B-ablated-GGUF — это квантизированная версия текстовой генеративной модели NaniDAO/deepseek-r1-qwen-2.5-32B-ablated, подготовленная bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель относится к семейству Qwen 2.5, имеет размер 32B параметров и предназначена для запуска локально через llama.cpp и совместимые приложения, включая LM Studio. Модель подходит для генерации текста и диалоговых сценариев, включая задачи, связанные с рассуждениями. В репозитории представлены варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Рекомендуемыми обозначены варианты Q4_K_M, Q5_K_M, Q6_K и другие близкие к ним форматы; наиболее компактные варианты экономят память, но дают более низкое качество. Архитектура, поддерживаемые языки и размер контекстного окна в README не указаны. По тегам модель описывается как ablated и uncensored, однако подробности применённых изменений и их влияние на поведение также не раскрыты. Для использования требуется совместимое ПО и память, соответствующая выбранному варианту весов; размеры файлов составляют примерно от 14,81 до 65,54 ГБ. Лицензия — MIT.

KnutJaegersberg/Deita-4b — диалоговая языковая модель на архитектуре Qwen2 с 3,6 млрд параметров. Она предназначена для генерации текста и выполнения пользовательских инструкций в формате чата; в карточке приведён пример ответа на вопрос о дообучении языковых моделей. Модель использует формат safetensors и поддерживает контекст до 32 768 токенов. В метаданных указан датасет KnutJaegersberg/Deita-6k, что указывает на дообучение базовой модели, однако идентификатор исходного чекпойнта не приведён. README сообщает результаты оценки на нескольких тестах Open LLM Leaderboard, но не даёт полного набора результатов. Лицензия обозначена как other, поэтому условия использования следует уточнять по странице модели.

Distil-Whisper large-v3 German — модель распознавания речи, созданная Sanchit Gandhi как версия с дистилляцией знаний модели openai/whisper-large-v3. Она предназначена для транскрибации немецкой речи в текст и обучена на немецкой части Common Voice 15.0. Модель построена на архитектуре Whisper и содержит около 905,2 млн параметров. В ней сохранён и заморожен энкодер исходной модели, а декодер сокращён до двух слоёв. При обучении использовались дистилляция по распределению выходов модели-учителя и функция потерь по размеченным аудиоданным. В оценке на наборе Common Voice модель показала WER 6,324 после нормализации и 8,233 по орфографической метрике. Модель принимает аудио и выдаёт текст. Карточка описывает поддержку немецкого языка; результаты и назначение подтверждены для немецкой речи. Модель распространяется по лицензии MIT.

DPOpenHermes 7B GGUF — квантизированная версия языковой модели DPOpenHermes 7B, разработанной Open Access AI Collective и подготовленной в формате GGUF компанией TheBloke. Модель основана на архитектуре Mistral, предназначена для генерации текста и диалоговых сценариев, а также может использоваться локально через llama.cpp и совместимые интерфейсы и библиотеки. Указан английский язык; поддерживается шаблон диалога ChatML с системными и пользовательскими сообщениями. Модель имеет 7 миллиардов параметров. Доступны варианты GGUFv2 с квантованием от 2 до 8 бит, включая CPU+GPU-инференс, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Контекстное окно, точные требования к ресурсам и показатели качества в README не указаны. Модель обучалась с использованием наборов teknium/openhermes, argilla/ultrafeedback-binarized-preferences и Intel/orca_dpo_pairs. Сильными сторонами являются открытый формат, возможность локального запуска и широкий выбор уровней квантования. Ограничениями выступают преимущественно англоязычная специализация, отсутствие заявленных мультимодальных возможностей и неполная информация о производительности и контекстном окне. Лицензия — Apache-2.0.

DreadMix — языковая модель, созданная BoltMonkey с помощью LazyMergekit путём объединения моделей DreadPoor/Eunoia_Vespera-8B-LINEAR и DreadPoor/Promissum_Mane-8B-LINEAR-lorablated. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит веса в формате safetensors; в конфигурации слияния указаны метод dare_ties и точность bfloat16. Модель предназначена для генерации текста и диалогового использования. Её можно применять для ответов на вопросы, написания и продолжения текста, а также для следования инструкциям в чате. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; они дают ориентир по оценке, но не гарантируют качество в конкретных задачах. Язык обучения или преимущественный язык карточкой не установлен. Условия лицензии в предоставленных данных отсутствуют.

ECE-TW3-JRGL-V4 — 71-миллиардная языковая модель, созданная объединением migtissera/Tess-72B-v1.5b и MTSAIR/MultiVerse_70B с помощью mergekit. Она использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста, диалогов и ответов на вопросы. Модель принимает текст и выдаёт текст; длина контекста составляет 32 768 токенов. Модель распространяется в формате safetensors под лицензией Apache-2.0. Данных о специализированной предметной области или языках модели в карточке нет.

Enbeddrus v0.2 — модель эмбеддингов предложений на основе BERT, разработанная автором репозитория evilfreelancer. Она кодирует предложения и абзацы на русском и английском языках в плотные векторы размерности 768, обученные сближать представления сопоставимых фраз на двух языках. Модель подходит для семантического поиска, сравнения текстов и кластеризации, в том числе для поиска русских формулировок по английскому запросу и наоборот. В карточке указана архитектура BERT uncased с 12 слоями, размером скрытого состояния 768 и максимальной длиной последовательности 512 токенов. Обучение проводилось 20 эпох на параллельных англо-русских корпусах, включая технические тексты о PHP и Go, а также книги. Метаданные указывают 194,6 млн параметров и формат весов Safetensors. README сообщает о тестировании на небольшом наборе из 100 пар предложений по PHP, поэтому результаты этой оценки не гарантируют качество на других темах. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Experiment28M7_Ognoexperiment27Multi_verse_model — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель объединяет automerger/Experiment28M7-7B и automerger/Ognoexperiment27Multi_verse_model-7B. Карточка не описывает специализацию по языкам или предметным областям, поэтому модель можно характеризовать только как текстовую модель общего назначения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. README не приводит оценок качества или подробных ограничений применения.

Falcon3-7B-Instruct-1.58bit — инструкционная и диалоговая языковая модель семейства Falcon 3, разработанная Technology Innovation Institute (TII). Это авторегрессионная decoder-only модель на основе pure-transformer архитектуры, созданная в 1,58-битном представлении и содержащая около 7 миллиардов параметров. Модель предназначена главным образом для генерации текста, ответов на вопросы, выполнения инструкций и диалоговых сценариев. Модель ориентирована преимущественно на английский язык. Доступна для использования через библиотеки Hugging Face Transformers и Microsoft BitNet; также предусмотрен демонстрационный playground для версии 7B Instruct. Сверхнизкая разрядность потенциально позволяет снизить требования к хранению и вычислениям, однако README не приводит конкретные требования к оборудованию, размер контекста или сравнение производительности в прикладных сценариях. Во внутренних тестах модель показала средний нормализованный результат 14,36; среди указанных тестов приведены IFEval, MUSR, GPQA, BBH, MMLU-PRO и MATH. Эти результаты характеризуют поведение на отдельных benchmark-задачах и не гарантируют качество для всех практических применений. Ограничениями являются преимущественная ориентация на английский язык и отсутствие в README подробностей о мультимодальности, длине контекста, данных обучения и ограничениях безопасности. Указанная лицензия — TII Falcon License 2.0.

ehristoforu/Falcon3-8B-Franken-Basestruct — объединённая языковая модель на 8 млрд параметров, созданная методом SLERP с помощью mergekit из tiiuae/Falcon3-10B-Instruct и tiiuae/Falcon3-10B-Base. Модель использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста, в том числе в диалоговом формате; заявленный контекст составляет 32 768 токенов. Объединение сочетает инструкционную и базовую версии Falcon3. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Метаданные отмечают поддержку чата и интерфейс вызова инструментов, однако подробные оценки качества и конкретные сценарии применения в карточке не приведены. Сведения о лицензии в предоставленных данных отсутствуют.

Systran/faster-whisper-large-v1 — конверсия модели распознавания речи Whisper large-v1 от OpenAI в формат CTranslate2, подготовленная для использования в CTranslate2 и проектах на его основе, включая faster-whisper. Модель принимает аудио и выполняет автоматическое распознавание речи; Whisper поддерживает многоязычное распознавание и перевод речи в текст. Репозиторий создан 23 ноября 2023 года, веса сохранены в FP16, а тип вычислений можно менять при загрузке через параметр compute_type. Модель распространяется по лицензии MIT. Это конверсия исходных весов, поэтому её назначение и качество определяются исходной Whisper large-v1; точные ограничения в карточке конверсии не описаны.

first_mistral — языковая модель Castorini, дообученная на основе mistralai/Mistral-7B-Instruct-v0.3 для ранжирования списков документов. Она использует стратегию FIRST и принимает решение по логитам первого токена, чтобы повысить эффективность ранжирования при сохранении качества. Модель обучена на 40 тысячах примеров ранжирования, размеченных GPT-4 и взятых из RankZephyr. Модель предназначена для переупорядочивания результатов поиска и других задач, где нужно выбрать наиболее релевантные документы из списка. В описанной авторами оценке она превосходит исходную реализацию FIRST на большинстве подмножеств бенчмарка BEIR. Это плотная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов; основной язык — английский. Лицензия MIT.

FRIDA-Decisions — модель для принятия структурированных решений по русскому тексту, разработанная УЭСМО и SberAI на основе энкодера ai-forever/FRIDA. Она классифицирует текст по заданным пользователем вариантам, оценивает его по порядковой шкале, отвечает «да/нет» и ранжирует кандидатов; набор вариантов задаётся в запросе, поэтому новые метки не требуют отдельного дообучения. Модель возвращает варианты и оценки уверенности без генерации текста. Архитектура — плотный энкодер T5EncoderModel; в репозитории доступны веса Safetensors и ONNX. Метаданные указывают 936,6 млн параметров, а README характеризует базовую FRIDA как модель с 823 млн параметров. Модель ориентирована прежде всего на русский язык, также заявлена поддержка английского. Для входного текста обученный диапазон составляет до 512 токенов; по умолчанию используется отсечение на 384 токенах. По данным авторов, модель подходит для маршрутизации обращений, классификации намерений и тональности, модерации и ранжирования релевантности; доступны варианты запуска на GPU, CPU и Apple Silicon. Модель лицензирована по MIT. Авторы сообщают о 0,893 точности на наборе razvilka из 735 русскоязычных примеров и о быстром инференсе на потребительской GPU. На текстах длиннее 512 токенов точность может снижаться, особенно при вопросах о деталях в конце текста; при превышении заданного предела текст обрезается.

duyntnet/gemma-3-1b-it-imatrix-GGUF — набор GGUF-квантизаций модели Gemma 3 1B IT, основанной на открытой модели Google Gemma 3 1B instruction-tuned. Репозиторий подготовлен для запуска через llama.cpp и совместимые клиенты, включая KoboldCPP, Ollama, text-generation-webui, Jan, GPT4All, LM Studio и другие интерфейсы. Модель предназначена для генерации текста, диалогов, ответов на вопросы, суммаризации и рассуждений. Gemma 3 поддерживает текстовые и графические входы с генерацией текста; для версии 1B заявлено контекстное окно до 32K токенов, а максимальный объём генерируемого вывода составляет 8192 токена. Модель поддерживает более 140 языков, однако в карточке отдельно указан английский язык. Изображения нормализуются до 896×896 и кодируются в 256 токенов каждое. Ключевое преимущество — небольшой размер, позволяющий развёртывать модель на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Ограничения связаны с компактным размером 1B, который может уступать более крупным моделям в сложном рассуждении и качестве генерации, а также с необходимостью использовать llama.cpp версии b4875 или новее для запуска GGUF-файлов. В карточке указана лицензия other; дополнительные условия лицензирования не приведены.

Gemma 4 26B A4B it GGUF — это квантизированный набор файлов модели google/gemma-4-26B-A4B-it, подготовленный пользователем giladgd в формате GGUF для запуска через node-llama-cpp и llama.cpp. Модель относится к классу conversational и имеет тег image-text-to-text, что указывает на поддержку сценариев диалогового взаимодействия и обработки текста совместно с изображениями. Доступны варианты квантования Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_0, Q4_K_S, Q4_K_M, Q5_0, Q5_K_S, Q5_K_M, Q6_K, Q8_0 и BF16 размером от 10,6 до 50,5 ГБ. README не содержит сведений о точной архитектуре, максимальной длине контекста, поддерживаемых языках, результатах оценки или конкретных ограничениях качества. Квантование уменьшает требования к хранению и памяти по сравнению с полноформатной версией, однако более компактные варианты могут уступать ей по качеству. Модель предназначена для локального использования в приложениях и чат-сценариях через node-llama-cpp или llama.cpp; доступны CLI и программный интерфейс на TypeScript. Лицензия указана как Apache-2.0, при этом для Gemma приведена отдельная ссылка на условия лицензии Google.

aoleg/gemma-4-31B-it-heretic-ORBA — декензурированная версия мультимодальной инструкционной модели Google Gemma 4 31B IT. Автор сообщает, что модель создана с помощью Heretic v1.3.0 и собственного метода ORBA abliteration; метаданные также связывают её с google/gemma-4-31B-it как с базовой моделью и указывают архитектуру Gemma4ForConditionalGeneration в формате safetensors. Модель предназначена для диалогов и задач image-text-to-text: она принимает текст и изображения, анализирует визуальный ввод и генерирует текст. В README приведено сравнение отказов: 2 из 100 для этой версии против 98 из 100 у указанной автором модели сравнения; это результат оценки с LLM-судьёй, а не гарантия поведения во всех запросах. Лицензия и сведения о размере и длине контекста в предоставленных данных отсутствуют.