I.3Извлечение и структурирование данных

unsloth/gemma-3-12b-it-GGUF — это GGUF-версия инструкционно дообученной модели Google Gemma 3 12B, опубликованная Unsloth. Модель создана Google DeepMind и относится к семейству компактных открытых моделей, разработанных на основе технологий Gemini. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Она мультимодальная: принимает текст и изображения, но генерирует текст. Для версии 12B заявлено контекстное окно до 128 000 токенов, максимальный объём генерируемого ответа — до 8192 токенов. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Gemma 3 поддерживает более 140 языков, однако для данной карточки явно указан английский язык. Сильными сторонами модели являются сочетание относительно компактного размера, мультимодальности, большого контекстного окна и пригодности для локального развёртывания на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре. Ограничения включают зависимость качества от выбранного GGUF-квантизованного варианта и аппаратных ресурсов, а также возможное снижение точности по сравнению с более крупными моделями; конкретные параметры квантизации в README не указаны. Модель распространяется по лицензии Gemma; условия использования определяются официальными Terms of Use Google.

Hermes-4.3-36B-heretic — это экспериментальная версия разговорной языковой модели Hermes 4.3 от Nous Research, созданная на базе ByteDance-Seed/Seed-OSS-36B-Base. Модель дообучена для диалога и следования инструкциям; поддерживает генерацию текста, рассуждения, вызов инструментов и структурированные ответы в JSON. В карточке указано 31,7 млрд параметров, архитектура SeedOssForCausalLM и контекст до 524 288 токенов. Модель предназначена для ответов на вопросы, решения задач по математике и программированию, работы с текстом и диалоговых сценариев, в том числе с инструментами. Вариант heretic получен abliteration: приведённые в README измерения показывают меньше отказов, чем у исходной Hermes-4.3-36B, но это не означает гарантированную пригодность ответов во всех сценариях. Модель принимает текст и выдаёт текст. Лицензия — Apache-2.0.

Это порт модели эмбеддингов Jina AI v5 Text Small Clustering для Apple Silicon. Модель построена на архитектуре Qwen3-0.6B и использует предварительно объединённые адаптеры LoRA для задач кластеризации. Версия MLX предназначена для запуска на устройствах Apple Silicon с ускорением Metal. Модель кодирует поисковые запросы и документы или фрагменты текста в векторы размерностью до 1024. Поддерживается усечение эмбеддингов по схеме Matryoshka до 32, 64, 128, 256, 512, 768 или 1024 измерений. Максимальная длина последовательности — 32 768 токенов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Llama-Deepsync-1B — дообученная PrithivMLmods модель на базе Meta Llama 3.2 1B Instruct для генерации текста и диалогов. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса SafeTensors; модель можно запускать через Transformers. Модель предназначена для ответов на сложные запросы с логическим рассуждением, решения задач по математике, генерации и объяснения кода, творческого письма и создания структурированных ответов, включая JSON. В README также заявлена поддержка многоязычного общения и генерации длинных текстов. Метаданные указывают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; более широкое заявление README о 29 языках не подкреплено их перечнем в метаданных. Лицензия — CreativeML OpenRAIL-M.

Llama-Express.1-Merged — компактная языковая модель на архитектуре Llama, созданная prithivMLmods слиянием нескольких предварительно обученных и дообученных моделей методом Model Stock с помощью mergekit. В README указана база Llama 3.2 (1B), а также объединение моделей Llama-Express.1, Llama-Express.1-Tiny и Llama-Express.1-Math. Модель содержит 1,2 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалогов с инструкциями на нескольких языках, суммаризации, математических рассуждений и сценариев агентного поиска информации. Метаданные отмечают чат-возможности и интерфейс вызова инструментов. README описывает её как модель с длинными цепочками рассуждений, но не приводит конкретных языков или сравнительных оценок, поэтому заявленное превосходство над другими моделями нельзя оценить по карточке. Лицензия в предоставленных данных не указана.

narraticlabs разработала MiniLM-L6-european-union — компактную модель Sentence Transformers на архитектуре BERT, полученную дистилляцией paraphrase-MiniLM-L12 и сокращением до 6 слоёв. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для сравнения смысла и поиска семантически похожих текстов. Модель подходит для семантического поиска и кластеризации текстов на языках Европейского союза. Модель содержит 110,2 млн параметров, принимает текст и имеет контекстное окно 512 токенов. В метаданных перечислена поддержка английского, немецкого, французского, испанского, итальянского, нидерландского, польского, португальского, венгерского, румынского, шведского, датского, финского, чешского, греческого, болгарского, хорватского, эстонского, латышского, литовского, мальтийского, словацкого и словенского языков. Репозиторий использует формат safetensors; лицензия — Apache-2.0.

Это конвертированное представление мультимодальной модели NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning для нативного инференса через Swift/MLX на компьютерах Apple Silicon. В репозитории сохранены веса BF16 исходной модели: значения тензоров не квантизировались, не округлялись и не обучались заново; изменена раскладка экспертных тензоров для пути MLX gather-matmul. Размер весов составляет около 66,03 ГБ. Модель предназначена для диалоговой работы и рассуждений с текстом, изображениями, аудио и видео; базовая карточка указывает сценарии транскрибации, OCR, суммаризации и обработки документов. Репозиторий поддерживает интерфейс вызова инструментов, но использует специальный нативный формат checkpoint и рассчитан на Nemotron Omni Swift/MLX runtime; он не является готовым checkpoint для Transformers. Лицензия указана как other, поэтому условия использования следует сверять с лицензией исходной модели NVIDIA.

Octen-Embedding-4B — плотная текстовая embedding-модель, разработанная Octen и дообученная методом LoRA на базе Qwen/Qwen3-Embedding-4B. Она преобразует текст в векторы размерности 2560 для семантического поиска, извлечения информации, сравнения и кластеризации документов, а также для поиска по запросам на разных языках и языках программирования. Модель содержит 3,7 млрд параметров и поддерживает контекст до 40 960 токенов; в карточке заявлена поддержка более 100 языков, включая английский и китайский. Модель предназначена прежде всего для retrieval-сценариев, в том числе поиска по юридическим, финансовым, медицинским и техническим материалам. Лицензия Apache-2.0. Это модель эмбеддингов, поэтому она не предназначена для генерации текста; качество может различаться в зависимости от языка и предметной области, а документы длиннее контекстного окна требуют усечения.

Qwen2.5-1.5B-Instruct-GGUF — инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это вариант базовой модели Qwen2.5-1.5B-Instruct в формате GGUF для локального запуска, в том числе с использованием llama.cpp. Модель предназначена для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, работы с кодом и математическими задачами, понимания таблиц и других структурированных данных, а также генерации структурированных ответов, включая JSON. Модель представляет собой causal language model на архитектуре transformers с RoPE, SwiGLU, RMSNorm, bias в Attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, из которых 1,31 млрд приходятся на параметры без учёта эмбеддингов, имеет 28 слоёв и GQA с 12 головами для Q и 2 для KV. Поддерживаются контекст до 32 768 токенов и генерация до 8192 токенов. Указана поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий содержит варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. К сильным сторонам относятся небольшой размер, возможность локального запуска, улучшенные следование инструкциям, генерация длинных текстов, работа со структурированными данными, кодом и математикой, а также устойчивость к различным системным промптам. Ограничения связаны с компактным масштабом в 1,5 млрд параметров и потерями точности, возможными при квантовании; конкретные показатели производительности в README не приведены. Модель распространяется по лицензии Apache-2.0.

Карточка модели ashphisher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

Карточка модели snacher/Qwen2.5-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-3B-Instruct — инструкционная языковая модель серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, в том числе для создания длинных ответов, структурированных данных и JSON, а также для задач с кодом и математикой. Модель содержит 3,1 млрд параметров и использует архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU, RMSNorm и группированным запросным вниманием. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Модель поддерживает более 29 языков, включая русский, английский, китайский, французский, испанский, немецкий, японский и арабский. Подходит для чат-ботов, следования инструкциям и генерации структурированных ответов; метаданные также отмечают интерфейс для вызова инструментов. Качество ответа зависит от формулировки запроса, а выход модели требует проверки, особенно для кода, математики и фактических утверждений. В репозитории указана лицензия `other`; конкретные условия использования следует сверять с файлами лицензии модели.

DreamFast/Qwen-2.5-7b-apostate — разговорная языковая модель на базе Qwen2.5-7B-Instruct, изменённая сообществом с помощью Apostate. Веса представлены в формате safetensors с точностью bfloat16; модель содержит около 7,1 млрд параметров и использует плотную архитектуру Qwen2. Контекстная длина этой версии — 32 768 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции, кода и структурированных данных. Её ключевое отличие — ослабленное поведение отказа: по описанию авторов, направление отказа удалено ортогональной проекцией в большинстве слоёв. README сообщает о высокой доле выполнения запросов из HarmBench и сохранении результатов на ряде тестов базовой модели; эти показатели получены в оценке авторов и не гарантируют такое же поведение в других сценариях. Поддерживаются английский и, согласно описанию семейства Qwen2.5, многоязычные сценарии, включая русский. Модель распространяется по лицензии Apache-2.0. Она может выдавать ответы на вредоносные запросы, поэтому требует контроля применения и выходных данных.

DreamFast/Qwen2.5-7B-Instruct-heretic-1.3.0 — производная версия Qwen2.5-7B-Instruct, созданная сообществом с помощью Heretic v1.3.0. Это плотная причинная языковая модель на архитектуре Qwen2 с 7,1 млрд параметров в формате bfloat16 и safetensors; квантизация не применялась. В README описано удаление поведения отказа от ответа ортогональной проекцией направления отказа в слоях внимания 9–27. Модель предназначена для диалогов и генерации текста, включая ответы на инструкции, код, математику и структурированные данные. Модель принимает текст и выдаёт текст. Метаданные указывают контекст до 32 768 токенов; README поясняет, что для более длинных входов можно включить YaRN, а исходная серия Qwen2.5 поддерживает множество языков, включая русский. В README приведены результаты сравнений на стандартных бенчмарках и тест HarmBench, где авторы сообщают о высокой готовности отвечать на запросы без отказов. Это означает, что встроенные механизмы безопасного отказа намеренно ослаблены. Репозиторий распространяется по лицензии Apache-2.0.

Qwen2.5-7B-Instruct-MLX-4bit — это 4-битная квантованная версия инструкционной языковой модели Qwen2.5-7B-Instruct, подготовленная сообществом для запуска на Apple Silicon Mac. Исходную модель разработала команда Qwen, а MLX-квантизацию предоставил bartowski на основе mlx-examples. Модель предназначена для диалогового взаимодействия, генерации текста и выполнения инструкций; её можно использовать в локальных сценариях через совместимое программное обеспечение, включая LM Studio. Модель поддерживает контекст до 32 000 токенов и генерацию до 8 000 токенов. Она ориентирована на работу с текстом и заявлена как поддерживающая более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Среди отмеченных особенностей — работа со структурированными данными и их генерация, а также широкий охват знаний, полученных из крупного обучающего набора. Ключевыми ограничениями являются зависимость от аппаратной платформы Apple Silicon и возможные ошибки, неточности, вредоносные или неподходящие ответы, характерные для генеративных моделей. README не содержит результатов бенчмарков или подробностей об архитектуре и точном объёме исходных параметров, кроме обозначения класса 7B. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Intel-Arc-Tuned-GGUF — это квантованная GGUF-версия модели Qwen3.8 с примерно 27 млрд параметров, подготовленная Greatjedi при участии Gemini для ускоренного запуска на видеокартах Intel Arc через llama.cpp, oneAPI SYCL и аппаратные матричные блоки DPAS. В качестве базовых моделей указаны empero-ai/Qwen3.8-27B-Ridge-GGUF и ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF. Модель предназначена для генерации текста, рассуждений, программного кода и структурированных ответов, включая извлечение JSON. Заявлены английский и китайский языки, а тип задачи в каталоге обозначен как text-generation. Ключевая особенность — преобразование неподдерживаемых на Intel Arc I-Quant-тензоров в преимущественно Q4_K-блоки с сохранением отдельных высокоточных компонентов, rotary embeddings, layer normalization и, в вариантах с MTP, встроенной NextN prediction head. Это устраняет переход к медленной CPU-деквантизации в SYCL-бэкенде. Для Intel Arc Pro B60 24GB заявлена скорость авторегрессионной генерации около 21–22 токенов в секунду, а со встроенным speculative decoding и MTP — до 41,88 токена в секунду; фактические показатели зависят от версии файла, сценария, оборудования и конфигурации запуска. Сильными сторонами являются оптимизация под Intel Arc поколений Battlemage Xe2 и Alchemist Xe, отсутствие необходимости во внешней draft-модели для вариантов со встроенным MTP и заметное ускорение относительно исходных I-Quant-вариантов. Ограничения включают узкую аппаратную специализацию, зависимость от совместимого SYCL-стека и llama.cpp, а также отсутствие в README точных сведений о максимальном контексте и единой архитектурной конфигурации всех вариантов. Модель распространяется по лицензии Apache-2.0.

Vishva007/Qwen3.8-27B-W4A16-AutoRound — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для генерации текста по текстовым и визуальным входам, включая анализ изображений и задачи оптического распознавания символов (OCR). В README она обозначена как vision-language model с поддержкой сценария image-text-to-text. Модель содержит около 27 млрд параметров и использует формат квантизации W4A16: веса представлены в 4-битном формате, а активации — в 16-битном. Квантизация выполнена с помощью Intel AutoRound с размером группы 64, симметричной схемой, 512 калибровочными образцами и 600 итерациями настройки. Визуальная башня сохранена в формате BF16, как и специальные MTP-слои, что должно помогать сохранять качество визуального рассуждения и OCR. Заявленное потребление видеопамяти составляет примерно 16–18 ГБ против около 54 ГБ у исходной BF16-модели, поэтому вариант подходит для запуска на одной видеокарте с 24 ГБ VRAM и для высокопроизводительного сервинга через vLLM. К преимуществам относятся существенно сниженные требования к памяти и потенциально более высокая скорость декодирования при сохранении визуальных компонентов в BF16. Ограничения включают возможную потерю точности из-за 4-битной квантизации, а также отсутствие в README сведений о поддерживаемых языках, точном размере контекста, результатах бенчмарков и детальных ограничениях применения. Модель распространяется по лицензии Apache-2.0.

SLIM-INTENT — специализированная модель серии SLIM от llmware, дообученная для анализа намерений и вызова функции классификации. Она принимает текст и формирует структурированный результат в виде словаря Python с полем intent, например с меткой «complaint», пригодный для дальнейшей обработки в автоматизированных цепочках LLM. Модель построена на архитектуре Llama с плотной decoder-only языковой моделью и содержит 1 млрд параметров. Она рассчитана на текстовый ввод и текстовый структурированный вывод; в карточке показан англоязычный пример, но языковая поддержка отдельно не заявлена. Контекст — до 2048 токенов. Доступна в формате PyTorch, лицензия — Apache-2.0.

Solar Pro 4 — большая языковая модель компании Upstage, предназначенная для длительных задач и агентных сценариев. В карточке указано контекстное окно размером 524 тыс. токенов. Модель рассчитана на работу с длинными документами и задачи офисной продуктивности. README также отмечает поддержку агентных рабочих процессов, но не приводит подробностей об архитектуре, размере модели, языках или условиях лицензии.

ufal/vit-historical-page — модель компьютерного зрения, разработанная UFAL для сортировки изображений страниц архивных документов по категориям перед последующей обработкой содержимого. Она основана на Vision Transformer Google и обучена на размеченных изображениях архивных страниц; в репозитории представлены варианты на нескольких базовых моделях ViT. Модель классифицирует страницы, включая рисунки и схемы, рукописные записи в таблицах и другие типы страниц; поддерживает вывод наиболее вероятных категорий и сводных результатов в табличном виде. Для актуальной версии vX.3 README указывает 38 625 обучающих и 4 823 оценочных изображений. Для варианта ViT base с разрешением 224 пикселя указано 87 млн параметров; доступны также варианты с другими размерами и разрешениями. Данные охватывают архивные документы 1920–2020 годов. Модель принимает изображения и выдаёт метки классов с оценками вероятности. Лицензия модели — MIT. Качество зависит от представительности категорий и разметки: README отмечает дисбаланс классов и наличие более ранних версий с ошибками аннотации. Указанные высокие метрики относятся к конкретным наборам и разбиениям данных и не гарантируют аналогичных результатов на иных коллекциях архивов.

Yi-6B-200K — базовая большая языковая модель, разработанная 01.AI и обученная с нуля. Она предназначена для генерации текста, понимания языка, рассуждений, ответов на вопросы и чтения длинных материалов. Модель построена на плотной архитектуре Transformer семейства Llama и содержит около 5,8 млрд параметров; контекстное окно составляет до 200 000 токенов. Серия Yi рассчитана прежде всего на английский и китайский языки и обучалась на многоязычном корпусе. Модель подходит для локального запуска, интеграции в приложения и дальнейшей адаптации; README описывает инструменты и сценарии развёртывания для семейства Yi. Это базовая генеративная модель, а не чат-версия, поэтому для диалогового использования может потребоваться настройка или обёртка. Опубликована под лицензией Apache 2.0.

Карточка модели AsaKal/all-MiniLM-L6-v2 на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.

cstr/bge-m3-GGUF — это конвертированная в формат GGUF версия модели BAAI/bge-m3, разработанной BAAI. Репозиторий предназначен для запуска модели через лёгкий C/C++-движок CrispEmbed на базе ggml, без Python и ONNX. Модель предназначена для получения текстовых эмбеддингов и задач многоязычного семантического поиска и извлечения информации. BGE-M3 поддерживает плотное, разреженное и многовекторное представление ColBERT в одной модели, заявлена поддержка более 100 языков и контекста до 8192 токенов. Архитектура — XLM-R; модель содержит 568 млн параметров, 24 слоя, размерность эмбеддингов 1024, использует mean pooling и токенизатор SentencePiece. Указана только текстовая модальность. Доступны варианты квантования Q4_K размером 438 МБ и Q8_0 размером 583 МБ, а также версия F32 размером 2175 МБ. Преимущество GGUF-версии — возможность локального и ресурсоэффективного запуска, включая серверный режим CrispEmbed. Согласно README, результаты проверены на битовое соответствие реализации sentence-transformers с косинусным сходством не менее 0,999 на тестовых текстах. Ограничение состоит в том, что репозиторий выполняет только конвертацию и/или квантование исходных весов; сведения о качестве, обучающих данных и возможностях следует уточнять в карточке BAAI/bge-m3. Модель распространяется по лицензии MIT, при этом репозиторий не предоставляет прав сверх лицензии исходной модели.

MediaTek Research Breeze-7B-32k-Instruct-v1_0 — чат-модель семейства Breeze, разработанная MediaTek Research на основе Mistral-7B. Это плотный авторегрессионный трансформер с архитектурой MistralForCausalLM и 7,2 млрд параметров, дообученный для диалога и распространённых задач на английском и традиционном китайском. Расширенный словарь содержит 62 тыс. токенов, а контекст достигает 32 768 токенов, что позволяет работать с длинными документами. Модель подходит для многоходового чата, ответов на вопросы, суммаризации и RAG-сценариев, включая поиск ответов в длинных китайских текстах. В README отмечено, что специальной обработки вредоносных запросов нет, поэтому модель может не обеспечивать надёжную защиту от небезопасных ответов. Веса доступны в форматах PyTorch и Safetensors; лицензия — Apache-2.0.

EXAONE-4.5-33B-FP8 — открытая мультимодальная vision-language модель, разработанная LG AI Research. Она предназначена для обработки текста и изображений, включая визуальные вопросы и ответы, анализ документов, контекстное рассуждение и общие задачи понимания мультимодального контента. Модель может применяться в ассистентах, системах работы с документами и исследовательских приложениях. Модель имеет плотную архитектуру causal language model с выделенным vision encoder: 31,7 млрд параметров приходится на языковую часть и 1,29 млрд — на визуальный энкодер, всего около 33 млрд параметров. Используются hybrid attention со sliding window размером 4096 токенов и global attention, Grouped Query Attention, 2D RoPE для визуальных представлений и контекст до 262 144 токенов. Модель поддерживает английский, корейский, испанский, немецкий, японский и вьетнамский языки. Знания ограничены декабрём 2024 года, а веса представлены в FP8-квантизации. Сильными сторонами заявлены конкурентоспособные результаты на общих мультимодальных бенчмарках, понимание документов и рассуждение с учётом корейского контекста; при этом показатели зависят от задачи, а FP8-квантизация и размер модели предъявляют повышенные требования к вычислительным ресурсам. Модель лицензирована по условиям EXAONE; точные ограничения следует уточнять в файле LICENSE.

Это версия энкодера контекста Dense Passage Retrieval (DPR), перенесённая в формат Sentence Transformers. Модель на архитектуре BERT преобразует предложения и абзацы в плотные векторы размерности 768; число параметров — 136,7 млн, максимальная длина контекста — 512 токенов. Модель предназначена для получения эмбеддингов текстовых фрагментов, которые можно применять для семантического поиска и кластеризации. Она принимает текст и выдаёт векторы; для работы через Transformers поверх контекстных представлений требуется применить соответствующую операцию pooling. В репозитории доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Перенос модели основан на DPR от Facebook. Лицензия — Apache-2.0. В карточке не приведены сведения о поддерживаемых естественных языках или специализированных предметных областях.

Это порт модели DPR question encoder в формат Sentence Transformers, опубликованный под именем sentence-transformers. Модель на основе BERT преобразует предложения и абзацы в плотные векторы размерности 768; всего в ней 136,7 млн параметров, а максимальная длина входа — 512 токенов. Модель предназначена для получения эмбеддингов, семантического поиска и кластеризации текстов. Векторные представления можно использовать для поиска фрагментов, близких по смыслу к вопросу, в системах поиска и обработки коллекций документов. Репозиторий содержит варианты в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Это энкодер, а не генеративная модель: он возвращает векторные представления текста. README не сообщает о специальных ограничениях качества или доменной специализации.

FastwebMIIA — языковая модель Fastweb с 7 млрд параметров на авторегрессионной архитектуре Transformer с декодером и RoPE. Она рассчитана прежде всего на итальянский язык и культурный контекст, также обучена на английском. Собственный токенизатор Fastweb оптимизирован для итальянского, английского и основных языков программирования; словарь содержит 50 000 токенов, контекстное окно — 16 тыс. токенов. Модель принимает текст и предназначена для диалоговой помощи, генерации контента, суммаризации и извлечения информации, в том числе из длинных документов и многоходовых бесед. По карточке, веса на Hugging Face доступны для некоммерческих исследований, образования и внутреннего применения; коммерческое использование требует отдельной коммерческой лицензии Fastweb. Ответы могут быть фактически неверными, неполными или предвзятыми, поэтому модель не следует считать авторитетным источником или заменой профессионального суждения. Для важных решений и применений с существенными рисками необходима проверка человеком.

Gemma 3 4B IT GGUF — квантизированное или иным образом подготовленное для формата GGUF представление instruction-tuned модели Google Gemma 3 4B IT. Разработчик — Google DeepMind. Модель относится к семейству лёгких открытых моделей, созданных на основе исследований и технологий Gemini, и предназначена для генерации текста и анализа изображений. Модель поддерживает текстовые и графические входные данные и генерирует текст. Она подходит для ответов на вопросы, суммаризации документов, рассуждений, анализа содержимого изображений и извлечения визуальной информации. Для версии 4B заявлено контекстное окно до 128K токенов, максимальный объём генерируемого результата — до 8192 токенов; изображения нормализуются до 896×896 и кодируются в 256 токенов каждое. Указана поддержка более 140 языков, а обучающие данные также включали код и математические материалы. Ключевое преимущество — сочетание мультимодальности, большого контекста и относительно небольшого размера, что упрощает развёртывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. README не содержит точных сведений об архитектуре, параметрах квантования GGUF, фактической производительности или ограничениях качества. Использование регулируется лицензией Gemma и условиями Google; конкретные условия необходимо проверять в Terms of Use.

AtomicChat/gemma-4-31B-it-GGUF — это квантизированная GGUF-версия мультимодальной модели Google Gemma 4 31B Instruct, подготовленная командой Atomic Chat на основе оригинальных весов google/gemma-4-31B-it. Модель предназначена для локального и полностью автономного применения в чат-ботах, генерации и анализе текста, задачах рассуждения, а также обработки изображений совместно с текстом. Для работы с изображениями в репозитории поставляется vision-проектор mmproj. Модель содержит 30,7 млрд параметров и 60 слоёв. Она использует плотную decoder-архитектуру Gemma4ForConditionalGeneration с гибридным вниманием: sliding-window с окном 1024 токена и глобальным вниманием; предусмотрены 32 attention heads и 16 KV heads. Заявленная длина контекста — 256 тысяч токенов, размер словаря — 262 тысячи. Поддерживаются текстовая и визуальная модальности. Доступны варианты квантования от Q2_K до Q8_0; кванты откалиброваны с importance matrix, что должно помогать сохранять качество при уменьшении размера. Рекомендуемым компромиссом между размером, скоростью и качеством указан Q4_K_M. Сильные стороны модели — большой контекст, мультимодальность, возможности рассуждения, автономная работа и широкий выбор вариантов квантования для разных объёмов памяти. Ограничения связаны с высокими требованиями к памяти: размер файлов варьируется примерно от 11,9 до 32,6 ГБ, а низкобитные варианты могут заметно терять качество. Для корректной работы в llama.cpp требуется применять chat template Gemma 4 через параметр --jinja; для изображений необходим vision-проектор и поддержка соответствующих инструментов. Репозиторий распространяется по лицензии Apache-2.0.

Intel разработала intel-optimized-model-for-embeddings-v1 — текстовую модель эмбеддингов на архитектуре BERT. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для семантического поиска и кластеризации. Модель содержит 49,2 млн параметров, принимает текст с контекстом до 512 токенов и доступна в форматах PyTorch и safetensors. Модель дообучена с использованием библиотеки sentence-transformers на основе BERT-Medium_L-8-H-512-A-8 с UAE-Large-V1 в роли учителя. В обучении использовались наборы данных для поиска сущностей, открытого вопросно-ответного поиска и задач по научным документам. Лицензия модели — MIT. Данные не определяют поддерживаемые естественные языки и конкретные показатели качества.