III.10Проекты, процессы и операционное управление

bunnycore/Qwen-2.5-7b-TitanFusion-v2 — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES на основе Orion-zhen/Qwen2.5-7B-Instruct-Uncensored с добавлением Cran-May/T.E-8.1 и Replete-AI/Replete-LLM-V2.5-Qwen-7b. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленное контекстное окно — 32 768 токенов. Модель предназначена для диалогов и генерации ответов на инструкции. В карточке описан способ объединения весов, но нет результатов оценки качества или подробных рекомендаций по использованию. Репозиторий содержит веса в формате safetensors; лицензия в доступных данных не указана.

Qwen3-4B-SafeRL — версия языковой модели Qwen3-4B, дообученная с помощью обучения с подкреплением для повышения устойчивости к вредоносным и состязательным запросам. Для оценки безопасности использовалась Qwen3Guard-Gen-4B, а гибридная функция вознаграждения также поощряет полезные ответы и снижает число необоснованных отказов. Модель предназначена для диалогов и генерации текста в сценариях, где важны безопасность и сохранение полезности ответов. Она поддерживает режимы с рассуждением и без него; архитектура — плотная Qwen3ForCausalLM, размер — около 3,7 млрд параметров, контекст — до 40 960 токенов. В сравнительных тестах SafeRL показала более высокие показатели безопасности и меньшую частоту отказов, чем исходная Qwen3-4B, при близких результатах на отдельных тестах рассуждения. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Показатели безопасности не гарантируют безошибочного распознавания всех вредоносных запросов; результаты зависят от теста и режима работы.

Qwen3.8-27B-Fast60L-Voodoo-GGUF — это созданная Valexiem модификация Qwen 3.8 27B: гибридная модель с gated DeltaNet и слоями полного внимания, сокращённая до 60 слоёв, с обрезанным словарём и динамической поканальной квантизацией. Основной вариант содержит 24,163 млрд параметров и занимает 5,59 GiB; модель распространяется в формате GGUF и рассчитана на локальный запуск и диалоговое применение. Лицензия — Apache-2.0. Модель предназначена для диалога и поиска по контексту. Автор сообщает о скорости около 51 токена в секунду на RTX 4070 с 12 ГБ видеопамяти при тесте на малой глубине контекста. Обрезка словаря удаляет 118 300 неиспользуемых мультиязычных токенов; карточка заявляет, что этот этап не меняет жадную генерацию относительно соответствующего не обрезанного варианта. Метаданные указывают английский язык. Существенное ограничение — модель не подходит для синтеза кода: в приведённой оценке исполняемого кода она набрала 2 из 4 против 4 из 4 у базового варианта. Возможны циклы повторов при кратких инструкциях, а скорость генерации заметно падает при длинном контексте: примерно до 21,5 токена в секунду на 128k и 9,3 на 256k. Приведённые скорости относятся к конкретной конфигурации оборудования и теста.

RakutenAI-7B-instruct — языковая модель Rakuten Group, Inc. для генерации текста по инструкциям. Это дообученная версия RakutenAI-7B на архитектуре Mistral с 7,2 млрд параметров. Для японского языка словарь расширен до 48 тысяч токенов; модель принимает текст и генерирует текст, поддерживая японский и английский языки. Контекстное окно составляет 32 768 токенов. Модель предназначена для выполнения инструкций, ответов на вопросы и других задач генерации текста. В карточке приведены результаты оценки на японских и английских языковых тестах; они характеризуют тестовые наборы и сами по себе не гарантируют качество на любых пользовательских запросах. Модель может выдавать предвзятые, неточные или небезопасные ответы. Лицензия — Apache License 2.0.

Shisa V2 Qwen2.5 7B — двуязычная чат-модель общего назначения от Shisa.AI, полученная дообучением Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста на японском и английском языках. Разработчики сосредоточились на постобучении на синтетических данных, чтобы улучшить качество японских ответов, сохранив возможности базовой модели на английском языке. Модель подходит для ответов на вопросы, следования инструкциям, многоходового общения, ролевых диалогов и перевода между японским и английским. Она выдаёт текст, поддерживает интерфейс вызова инструментов и использует шаблон чата базовой модели. Метаданные указывают контекст 32 768 токенов; в README для семейства приведено значение 128K/8K, поэтому доступная длина может зависеть от конфигурации и способа запуска. Модель использует Transformers и формат safetensors. По опубликованным оценкам модель улучшает ряд японских бенчмарков относительно Qwen2.5-7B-Instruct, хотя в некоторых англоязычных тестах базовая модель показывает более высокие результаты. Лицензия — Apache 2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских данных; модель может ошибаться и генерировать неточные ответы.

Trendyol LLM v1.0 Chat — диалоговая авторегрессионная языковая модель компании Trendyol на основе Mistral-7B. Модель содержит 7,2 млрд параметров, использует архитектуру Mistral и принимает текст, генерируя текст. Чат-версия дообучена с помощью LoRA на 180 тысячах наборов инструкций; в метаданных указан контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения текстовых инструкций, прежде всего на турецком и английском языках. Её можно использовать для генерации ответов и черновиков текста. Качество работы с разговорной речью и другими языками может быть ограничено; ответы могут содержать фактические ошибки и предвзятые или вредоносные формулировки, поэтому для важных сценариев нужна проверка человеком. Модель выпущена под лицензией Apache-2.0.

Cohere Labs Command R+ 08-2024 — авторегрессионная языковая модель на архитектуре Transformer с grouped-query attention, разработанная Cohere Labs и Cohere. Модель содержит 104 млрд параметров, поддерживает контекст до 128K токенов и принимает и выдаёт только текст. Она предназначена для диалогов, рассуждений, суммаризации и ответов на вопросы; обучена работать с Retrieval Augmented Generation, приводить цитаты из переданных фрагментов документов и выбирать инструменты для многошагового выполнения задач. Модель обучалась на 23 языках и оценивалась на 10. Список языков обучения включает английский, французский, испанский, итальянский, немецкий, португальский, японский, корейский, арабский, китайский, русский и другие; метаданные также отмечают поддержку английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского. Для генерации с опорой на документы предусмотрен специальный шаблон промпта, отступление от которого может снизить качество. Для запуска README рекомендует Transformers версии 4.39.1 или выше. Лицензия CC-BY-NC-4.0 требует соблюдения Acceptable Use Policy Cohere Labs и ограничивает коммерческое использование.

Qwen2.5-14B-Instruct-GGUF — это квантизированная в формате GGUF версия инструкционной языковой модели Qwen2.5-14B-Instruct, разработанной командой Qwen. Квантизация выполнена bartowski на основе llama.cpp, релиз b3772. Модель предназначена для диалоговых приложений, генерации текста и выполнения инструкций, включая работу со структурированными данными. Модель поддерживает контекст до 128 тысяч токенов с настройками YaRN RoPE и генерацию до 8 тысяч токенов. Для обучения использован набор данных объёмом 18 триллионов токенов. Заявлена поддержка более 29 языков, включая английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся длинный контекст, многоязычность и улучшенное понимание и формирование структурированных данных; конкретные ограничения производительности и требования к ресурсам в README не указаны. Модель распространяется по лицензии Apache 2.0. Использование Community Model предоставляется сторонним сообществом; LM Studio не является разработчиком и не гарантирует точность, безопасность или пригодность результатов. Как и другие генеративные модели, она может создавать неточный, вредный или неподходящий контент.

google/gemma-3-4b-it-qat-q4_0-gguf — мультимодальная instruction-tuned модель Gemma 3, разработанная Google DeepMind. Она использует открытые веса и предназначена для генерации текста и понимания изображений: ответов на вопросы, суммаризации документов, рассуждений, анализа визуального содержимого и извлечения информации из изображений. Модель принимает текст и изображения, а выдаёт текст. Это 4B-версия в формате GGUF с квантизацией Q4_0 и Quantization Aware Training (QAT). QAT позволяет приблизить качество к версии в формате bfloat16 при существенно меньших требованиях к памяти, что облегчает запуск на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Для модели заявлено контекстное окно до 128K токенов, максимальный объём генерируемого вывода — 8192 токена; изображения нормализуются до 896×896 и кодируются в 256 токенов. Поддерживается более 140 языков. Ограничения включают зависимость качества от квантизации и используемой инфраструктуры, а также то, что поддержка изображений может различаться между инструментами запуска: например, в README указано отсутствие такой поддержки для Ollama через Hugging Face. Использование регулируется лицензией Gemma и соответствующими Terms of Use.

cortecs/Llama-3.3-70B-Instruct-FP8-Dynamic — динамически квантованная версия Meta Llama 3.3 70B Instruct, разработанная на базе модели meta-llama/Llama-3.3-70B-Instruct. Это большая языковая модель с 70 миллиардами параметров, предварительно обученная и дообученная по инструкциям для генерации текста и многоязычного диалога. Модель предназначена для чат-ботов, ассистентов и других приложений, связанных с обработкой и генерацией текста. Она поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки. Указанный показатель восстановления точности составляет 99,67%; приведённые оценки показывают небольшое снижение результатов относительно исходной Llama-3.3-70B-Instruct, при этом в отдельных тестах показатели практически совпадают. Ключевая особенность модели — формат FP8 Dynamic, который предназначен для более эффективного размещения и выполнения крупной модели при сохранении близкого к исходному качества. Данные о размере контекста, поддерживаемых модальностях помимо текста и конкретных аппаратных требованиях в README не указаны. Модель распространяется по лицензии Meta Llama 3, ссылка на условия приведена в карточке.

Gemma 3 27B IT — мультимодальная модель Google с открытыми весами, дообученная для следования инструкциям на основе google/gemma-3-27b-pt. Она принимает текст и изображения и генерирует текст; поддерживает диалоговые сценарии и задачи понимания изображений. Модель содержит 27 млрд параметров, использует контекстное окно до 128 тыс. токенов и поддерживает более 140 языков. Модель подходит для ответов на вопросы по тексту и изображениям, суммаризации, генерации текстов, диалоговых помощников и извлечения сведений из визуальных материалов. Карточка указывает лицензию Gemma. Среди ограничений — возможные фактические ошибки и предвзятость, а также трудности с неоднозначностью, нюансами и сложными открытыми задачами; для приложений следует предусмотреть проверку ответов и меры безопасности.

Модель avans06/Meta-Llama-3.2-8B-Instruct — текстовая генеративная модель семейства Llama, размещённая на Hugging Face. Метаданные указывают на плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров, формат safetensors и контекст до 131 072 токенов. Она предназначена для диалогов и генерации текста; также заявлен интерфейс вызова инструментов. Карточка репозитория описывает Llama 3.2-Vision моделей Meta на 11B и 90B параметров, принимающих текст и изображения. Эти сведения не совпадают с идентификатором и архитектурными метаданными данной 8B текстовой модели, поэтому визуальные возможности и характеристики Vision к ней не приписываются. Метаданные перечисляют поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Лицензия — Llama 3.2 Community License, обозначенная в метаданных как llama3.2.

Gemma 3 4B IT — мультимодальная модель Google, дообученная для следования инструкциям на базе google/gemma-3-4b-pt. Она принимает текст и изображения и генерирует текст; подходит для диалоговых помощников, ответов на вопросы по изображениям, суммаризации, рассуждений и создания текстов. Модель построена на архитектуре семейства Gemma 3, содержит около 4 млрд параметров и поддерживает контекст до 128 тыс. токенов. Поддерживает более 140 языков и может запускаться на ноутбуках, настольных компьютерах или собственной облачной инфраструктуре. Сильные стороны модели — сочетание визуального понимания и генерации текста, большой контекст и сравнительно компактный размер. Ответы могут содержать фактические ошибки, отражать смещения обучающих данных и хуже справляться с неоднозначными или сложными запросами. Лицензия — Gemma; применение должно соответствовать условиям лицензии и политике запрещённого использования Google.

Sakalti/ultiima-72B — слитая языковая модель автора Sakalti на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/Qwen2.5-72B и Qwen/Qwen2.5-72B-Instruct. Это плотная авторегрессионная модель на 71,5 млрд параметров в формате safetensors с контекстом до 131 072 токенов; она предназначена для генерации текста и диалогов. Метаданные отмечают интерфейс вызова инструментов, а карточка приводит результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель поддерживает множество языков, среди которых английский, китайский, русский, французский, испанский, немецкий, японский, арабский и хинди. Её можно применять для диалоговых ассистентов, генерации текстов и ответов на инструкции. Карточка указывает лицензию «other», поэтому условия использования следует сверить с лицензией и правилами репозитория; конкретные ограничения применения в карточке не описаны.

Карточка модели ckoozzzu/d3 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

unsloth/Llama-3.2-3B-Instruct-GGUF — GGUF-версия инструкционно дообученной языковой модели Llama 3.2 с 3 млрд параметров, разработанной Meta и опубликованной Unsloth. Это авторегрессионная модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA); варианты GGUF доступны в форматах квантования от 2 до 16 бит, что позволяет выбирать баланс между качеством, размером и требованиями к памяти. Модель предназначена для генерации текста и мультиязычного диалога, включая агентский поиск по данным и суммаризацию. Она работает в режиме «текст на входе — текст на выходе» и официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционная версия обучалась с использованием supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. README не указывает размер контекстного окна и конкретные показатели производительности; модель является статичной и обучена на офлайн-данных. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta, а также Acceptable Use Policy. GGUF-квантизация может снизить требования к памяти и упростить локальный запуск, но при меньшей разрядности возможна потеря качества. Модель не является мультимодальной: заявлены только текстовые входы и выходы.

Meta-Llama-3.1-70B-Instruct-FP8 — квантизированная версия языковой модели Meta-Llama-3.1-70B-Instruct, разработанная Neural Magic. Модель предназначена для коммерческого и исследовательского использования, прежде всего для диалоговых ассистентов и генерации текста. Она принимает текст и генерирует текст, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки, однако в документации отдельно указано ограничение на использование неанглийских языков. Модель имеет архитектуру Meta-Llama-3.1 и размер 70B параметров. Веса и активации линейных слоёв внутри трансформерных блоков квантизированы в формат FP8 с симметричной потензорной схемой; квантизация уменьшает объём хранения и требования к GPU-памяти примерно на 50%. Оптимизированная версия сохраняет близкие результаты базовой модели: средний балл OpenLLM составляет 84,29 против 84,40 у неквантизированной версии. Для развёртывания рекомендуется vLLM, включая режим, совместимый с OpenAI API. К ограничениям относятся возможное снижение качества относительно полной точности, отсутствие указанного в README размера контекстного окна и формальное требование соблюдать применимое законодательство. Модель распространяется по лицензии llama3.1; релиз версии 1.0 состоялся 23 июля 2024 года.

ibnzterrell/Meta-Llama-3.3-70B-Instruct-AWQ-INT4 — это 4-битная AWQ-квантизированная версия Meta-Llama-3.3-70B-Instruct, первоначально выпущенной Meta AI и опубликованной в данном варианте пользователем ibnzterrell. Модель представляет собой крупную instruction-tuned языковую модель с текстовым вводом и выводом, предназначенную для генерации текста и многоязычного диалога. Модель подходит для чат-ассистентов, ответов на вопросы и других сценариев текстовой генерации на английском, французском, итальянском, португальском, хинди, испанском, тайском и немецком языках. Исходная модель имеет размер 70B параметров; доступный вариант использует INT4-квантизацию AWQ с GEMM-ядрами, zero-point quantization и размером группы 128. Для загрузки контрольной точки требуется около 35 ГиБ VRAM без учёта KV-кэша и CUDA Graphs, поэтому необходим некоторый дополнительный запас видеопамяти. Поддерживаются Transformers, AutoAWQ, Text Generation Inference и vLLM. К основным преимуществам относятся значительно сниженные требования к памяти по сравнению с полноточной версией и возможность запуска большой многоязычной instruction-tuned модели на совместимом оборудовании. Ограничения связаны с потерями качества, возможными при 4-битной квантизации, высокой потребностью в ресурсах и тем, что README не содержит сведений о длине контекста. Модель распространяется по лицензии Llama 3.3.

Qwen2.5-VL-7B-Instruct-GGUF — мультимодальная instruction-tuned модель семейства Qwen, разработанная командой Qwen. Репозиторий основан на Qwen/Qwen2.5-VL-7B-Instruct и содержит 7B-версию модели в формате GGUF. Указана лицензия Apache-2.0; заявленный язык — английский, задача — преобразование изображений и текста в текст. Модель предназначена для анализа изображений, документов, диаграмм, таблиц, графики и макетов, распознавания текста, визуального вопросно-ответного взаимодействия, структурированного извлечения данных из счетов и форм, визуальной локализации объектов с помощью координат или точек, а также анализа видео. Она может обрабатывать длинные видео длительностью более часа и выделять релевантные моменты. Также заявлены сценарии визуального агента, включая взаимодействие с компьютером и мобильными устройствами. Архитектура включает языковую модель Qwen2.5, vision encoder ViT с window attention, SwiGLU и RMSNorm, динамическое разрешение изображений и динамическую частоту выборки кадров видео. Для временного измерения используется mRoPE с идентификаторами и абсолютным выравниванием времени. Ключевые сильные стороны — распознавание документов и текста, понимание диаграмм и видео, генерация структурированных результатов и визуальная локализация. Ограничения: README не содержит точных требований к ресурсам, максимального контекста, полного списка поддерживаемых языков и подробностей качества GGUF-квантизации; приведённые результаты зависят от конкретных бенчмарков и настроек.

Linkbricks-Horizon-AI-Avengers-V4-32B — дообученная Saxo и командой Linkbricks Horizon-AI языковая модель на архитектуре Qwen2 с 32 млрд параметров. Она основана на Saxo/Linkbricks-Horizon-AI-Avengers-V3-32B; авторы сообщают о дообучении SFT и DPO, а также ORPO, примерно 35% параметров модели. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Для неё указано контекстное окно 32 768 токенов. Модель предназначена для генерации и написания текста, перевода между корейским, японским, китайским и английским языками, суммаризации, анализа отзывов и публикаций в социальных сетях, задач по программированию, математике и логическим рассуждениям. По заявлению авторов, при обучении использовались многоязычные новостные и вики-корпуса, наборы для перевода и другие данные по перечисленным задачам. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

German-RAG-NEMO-12B-ORPO-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI. Это дообученная версия German-RAG-NEMO-12B-SFT-HESSIAN-AI с 12,1 млрд параметров, предназначенная для немецкоязычных RAG-сценариев и работы с предоставленным контекстом. Модель подходит для ответов на вопросы по найденным документам, извлечения релевантных сведений, рассуждений по контексту и составления кратких сводок. В карточке заявлена поддержка немецкого и английского языков; метаданные указывают контекст до 1 024 000 токенов. По условиям Apache 2.0 распространяются и код, и веса модели. В оценке авторов модель показала результаты на задачах извлечения, вопросно-ответных задачах, суммаризации и рассуждениях на немецком и английском языках. Результаты зависят от задачи и не гарантируют фактическую точность: ответы могут содержать ошибки и должны проверяться. У модели нет встроенной фильтрации безопасности; возможна генерация вредного или предвзятого контента.

Linkbricks-Horizon-AI-Japanese-Advanced-V8-70B — языковая модель, дообученная директором по данным Linkbricks Джи Юнсоном (Saxo) на основе версии V7. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации текста, диалога и вызова инструментов. В карточке указано контекстное окно 128 тыс. токенов. Модель усилена для работы на японском, корейском, китайском и английском языках. Среди заявленных сценариев — перевод между этими языками, анализ отзывов клиентов и публикаций в социальных сетях, написание текстов и кода, а также решение математических и логических задач. Для обучения использовались японские новостные и вики-корпуса, многоязычные данные для разных задач и примеры по математике и логике. Модель основана на V7 и прошла японское SFT, DPO и слияние. Веса опубликованы в формате Safetensors для Transformers; лицензия — Apache-2.0. Заявленные возможности и качество описаны в карточке модели и могут зависеть от языка, запроса и способа использования.

Карточка модели ckoozzzu/new3 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B-Instruct, поэтому описание составлено по ней. Meta Llama 3.1 8B Instruct — языковая модель Meta для диалогов и генерации текста. Это авторегрессионная модель на основе оптимизированного трансформера с Grouped-Query Attention; версия Instruct настроена с помощью supervised fine-tuning и обучения с обратной связью от людей (RLHF). Модель принимает и генерирует текст, поддерживает диалоговый режим и предназначена для коммерческого и исследовательского применения. Модель подходит для создания чат-ассистентов, ответов на запросы и других задач генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Контекстное окно в предоставленных материалах не указано. Модель обучена на статичном офлайн-наборе данных; возможны ошибки и небезопасные ответы, поэтому результаты следует проверять, а для использования инструментов требуется отдельная интеграция и контроль со стороны разработчика. Условия распространения и применения регулируются лицензией Meta Llama 3.1 Community License и Acceptable Use Policy.

Saxo/Linkbricks-Horizon-AI-Japanese-Pro-V3-70B — языковая модель Linkbricks, дообученная Юнсоном Джи (Saxo) на базе Saxo/Linkbricks-Horizon-AI-Japanese-Base-70B. Это плотная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации текста. По карточке, обучение включало японскую SFT, DPO и объединение моделей, а также данные на японском, корейском, китайском и английском языках, японские новости и Википедию, математические и логические задачи. Модель рассчитана на написание и редактирование текстов, программирование, математические и логические рассуждения, анализ отзывов и публикаций в социальных сетях, а также вызов функций и инструментов. Заявленное контекстное окно — 128 тыс. токенов; используется токенизатор базовой модели без расширения словаря. Доступны веса в формате Safetensors для Transformers. Лицензия — Apache 2.0.

Aitana-7B-S-Instruct-v0.1-i1-GGUF — это квантизированная версия инструкционной языковой модели Aitana-7B-S-Instruct, разработанной GPLSI. Репозиторий подготовлен и квантизирован пользователем mradermacher в формате GGUF для локального запуска. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, работу с многоязычными данными, извлечение информации, задачи рассуждения и обработку специализированных текстов. Модель имеет размер 7B параметров и работает с текстом. В README заявлена поддержка каталанского, испанского и английского языков; обучение и дообучение проводились на наборах данных для инструкционного обучения, многоязычного общения, поиска с дополнением контекста, перевода, юридических вопросов, научных фактов и математических задач. Доступно множество вариантов квантизации с разным размером от примерно 2,4 до 5,7 ГБ. В качестве рекомендуемого варианта указана i1-Q4_K_M, а i1-Q4_K_S описана как компромисс между размером, скоростью и качеством. Сильными сторонами модели являются ориентация на следование инструкциям, поддержка каталанского, испанского и английского языков, а также возможность запуска в ресурсно-ограниченной среде благодаря GGUF-квантизации. Ограничения включают зависимость качества и скорости от выбранного уровня квантизации; наиболее компактные варианты могут давать заметно более низкое качество. Архитектура и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

adamo1139/aya-expanse-32b-ungated — открытая версия весов Aya Expanse 32B от Cohere For AI без ограничения доступа через gated-доступ. Это авторегрессионная плотная трансформерная языковая модель семейства Cohere с 32,3 млрд параметров, предназначенная для генерации текста и диалогов на 23 языках. Модель принимает и выдаёт текст; метаданные указывают контекст 8192 токена. Модель подходит для многоязычных диалоговых помощников, ответов на вопросы, создания и перефразирования текстов на поддерживаемых языках. В карточке описаны supervised fine-tuning, обучение на предпочтениях, настройка безопасности и слияние моделей в процессе подготовки Aya Expanse. Для распространения указана лицензия CC-BY-NC-4.0; карточка также требует соблюдать политику допустимого использования Cohere For AI.

m8than/gemma-3-12b-it-lenientchatfix — мультимодальная разговорная модель сообщества на архитектуре Gemma 3, дообученная на предобученной модели Google google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; объём модели — 12 млрд параметров. Карточка описывает возможности семейства Gemma 3: контекст до 128 тыс. токенов и поддержку более 140 языков. Модель предназначена для диалогов, ответов на вопросы по изображениям и тексту, суммаризации и генерации текста. Её можно использовать для извлечения сведений из изображений, создания черновиков и разговорных интерфейсов. Название указывает на вариант с более lenient-настройкой поведения, но README не уточняет, как она реализована и оценивалась. К ограничениям относятся возможные фактические ошибки, смещения в ответах и трудности с неоднозначными запросами и сложными задачами. В метаданных указана лицензия Gemma; использование регулируется её условиями и политикой запрещённого использования Gemma.

meta-llama/Llama-3.1-405B-FP8 — крупная языковая модель семейства Llama 3.1, разработанная Meta. Она предназначена для генерации текста и может применяться в задачах обработки естественного языка, включая создание и преобразование текстового контента. Модель ориентирована на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Из доступных данных следует, что модель содержит 405 миллиардов параметров и представлена в формате FP8. Архитектура, максимальная длина контекста, поддерживаемые модальности помимо текста и подробные сведения о сильных сторонах в README не указаны. Большой размер модели потенциально обеспечивает высокую способность к обработке сложных языковых задач, но также предполагает значительные требования к вычислительным ресурсам; конкретные требования и ограничения по производительности не приведены. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использовать, воспроизводить, распространять, изменять материалы и создавать производные работы на установленных условиях. При распространении необходимо сохранять текст лицензии и уведомление об атрибуции, указывать «Built with Llama», соблюдать Acceptable Use Policy и применимое законодательство. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрено требование запросить отдельную лицензию у Meta.

ViFortune-AI разработала объединённую мультимодальную модель на основе языковой части Qwen3 и визуальной ветви Qwen2.5-VL-3B-Instruct. По метаданным репозитория, модель содержит 589,7 млн параметров, использует архитектуру Qwen2.5-VL и доступна в форматах PyTorch и safetensors. Она принимает изображения и текст, а также, согласно README, видео; может описывать визуальные сцены, распознавать текст и структуру документов, анализировать графики и скриншоты интерфейсов, а также формировать структурированные ответы, например данные таблиц и форм. Модель предназначена для диалоговых задач с визуальным содержимым и обработки длинного контекста. В README заявлена длина до 32 768 токенов с возможностью расширения через YaRN; метаданные каталога указывают контекст 128 000 токенов. README также описывает возможности визуального агента и использования инструментов, однако примеры и оценки качества не приведены. Основные ограничения: расширение контекста через YaRN может ухудшать пространственную и временную локализацию; обработка видео в README ограничена локальными файлами. Лицензия в предоставленных данных не указана.

Это модель Sentence Transformer, разработанная Dhruv Sangani и дообученная на базе sentence-transformers/all-MiniLM-L6-v2. Она кодирует предложения и абзацы в нормализованные плотные векторы размерностью 384 и предназначена для семантического поиска и сравнения текстов по косинусному сходству. Модель построена на архитектуре BERT с усреднением токенных представлений; число параметров — 25,9 млн, максимальная длина последовательности в README — 256 токенов, а в метаданных указано контекстное окно 512 токенов. Модель подходит для поиска релевантных фрагментов и ответов в коллекциях документов, оценки сходства предложений, поиска перефразирований и кластеризации текстов. В README приведены англоязычные примеры корпоративных вопросов и ответов, поэтому основное назначение модели — работа с английским текстом. Она создаёт векторы, а не готовые ответы; качество зависит от предметной области и данных. Лицензия в предоставленных сведениях не указана.