I.3Извлечение и структурирование данных

LwQ-10B-Instruct — инструкционно настроенная языковая модель prithivMLmods на архитектуре Llama 3.1, дообученная на основе meta-llama/Llama-3.1-8B-Instruct. Модель содержит 10,6 млрд параметров и предназначена для генерации текста и диалога на нескольких языках; в карточке заявлено контекстное окно 4096 токенов. Модель подходит для чат-ботов и виртуальных помощников, следования инструкциям, математических и логических рассуждений, решения задач по контексту, а также создания и суммаризации текстов. По README, дообучение включало синтетические наборы для рассуждений; семейство Llama 3.1 описано как авторегрессионный трансформер, а инструкция — как настроенная с использованием SFT и RLHF. Доступна в формате safetensors для Transformers. Качество может различаться между языками; сложные рассуждения могут содержать ошибки, а неоднозначные запросы ухудшают ответы. Ограниченное контекстное окно, потребность в значительных вычислительных ресурсах и отсутствие доступа к актуальным данным ограничивают применение. Лицензия — Llama 3.1.

Magnum-v1-72b-Qwen2.5 — слитая автором модели языковая модель на архитектуре Qwen2 для диалогов и генерации текста. Веса объединяют влияние anthracite-org/magnum-v1-72b с Qwen/Qwen2.5-72B-Instruct: автор извлёк LoRA из ранней модели Magnum и перенёс её на Qwen2.5-Instruct, после чего объединил результат в самостоятельную модель. Размер — 71,5 млрд параметров, формат — safetensors, контекст — 32 768 токенов. Модель предназначена для творческой генерации и общения; в описании также отмечены генерация кода и сохранение улучшений Qwen2.5. Заявлены английский язык и интерфейс для вызова инструментов. Автор сообщает о положительных результатах собственных проб, но не приводит формальной оценки качества. Лицензия указана как other.

Metis-0.4-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и Metis-0.4 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Карточка описывает способ слияния, но не приводит специальных оценок качества или ограничений; возможности и результаты могут зависеть от языка запроса и конкретного сценария применения.

Карточка модели liskasYR/MiniCPM5-2B-Base на Hugging Face совпадает с карточкой openbmb/MiniCPM5-2B-Base, поэтому описание составлено по ней. MiniCPM5-2B-Base — базовая плотная авторегрессионная языковая модель семейства MiniCPM5, разработанная OpenBMB. Она предназначена для локальных ассистентов, агентных сценариев, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Модель содержит около 2,2 млрд параметров; в карточке указана архитектура LlamaForCausalLM с 42 слоями и поддержка длинного контекста. README указывает контекст 131 072 токена, тогда как метаданные каталога сообщают 524 288 токенов. Модель работает с текстом и ориентирована на английский и китайский языки. Среди заявленных сильных сторон — код, математика, понимание длинного контекста, использование инструментов и агентные задачи; это характеристики, заявленные разработчиком, а не независимая оценка. Для фактических результатов важны вычислительные ресурсы, среда запуска и проверка ответов: генерация может быть неточной, предвзятой или оскорбительной и уязвима к специально составленным запросам. Лицензия — Apache-2.0.

Mistral-7B-claude-instruct-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и Norquinal/Mistral-7B-claude-instruct методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате чата; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста по запросу. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

mistral-orpo-beta-NeuralBeagle14-7B-dare-ties — объединённая модель на архитектуре Mistral, созданная с помощью LazyMergekit из kaist-ai/mistral-orpo-beta и mlabonne/NeuralBeagle14-7B методом dare_ties. Она предназначена для диалоговой генерации текста и может использоваться для ответов на вопросы, следования инструкциям, рассуждений и творческого письма. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Карточка приводит конфигурацию с весами слияния 0,6 и 0,4 и точностью bfloat16. Лицензия — Apache-2.0. Языки и отдельные ограничения качества в карточке не описаны.

MaziyarPanahi/Mistral-T5-7B-v1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и ignos/Mistral-T5-7B-v1. Архитектура MistralForCausalLM, плотная модель на 7,1 млрд параметров; принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в диалоговых сценариях. Базовая Mistral-7B-Instruct-v0.2 и конфигурация слияния указаны в карточке модели; метаданные указывают формат safetensors. Доступна по лицензии Apache-2.0. Языковые характеристики отдельно не описаны.

Monstral — слитая языковая модель на архитектуре Mistral, созданная объединением частей MarsupialAI/Monstral-123B-v2 и MidoriUnko/Behemoth-v2.2-Magnum-v4-123B методом passthrough с помощью mergekit. Модель содержит 169,3 млрд параметров и предназначена для генерации текста и диалогового общения. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors. Лицензия не указана в предоставленных данных, поэтому условия использования по ним определить нельзя.

OpenAi-GPT-oss-20b-abliterated-uncensored-NEO-Imatrix-gguf — модель, опубликованная DavidAU на основе huihui-ai/Huihui-gpt-oss-20b-BF16-abliterated. Это языковая модель для генерации текста, диалогов, программирования, решения задач, рассуждений, мозгового штурма и творческих сценариев. Модель позиционируется как uncensored и abliterated: из базовой версии были удалены или ослаблены отказы от ответов. Модель относится к архитектуре Mixture of Experts (MoE), имеет заявленный размер 20B и использует 24 эксперта. Она ориентирована прежде всего на английский язык, поддерживает текстовый ввод и вывод и заявлена для контекста до 128k токенов. Распространяется в формате GGUF с вариантами квантования IQ4_NL, Q5_1 и Q8_0, включая версии с одной, двумя или тремя Imatrix-датасетами для оптимизации квантования. Варианты NEO и NEO-CODE ориентированы на общее применение, код и творческие задачи. К сильным сторонам относятся сочетание возможностей для программирования, общего диалога, рассуждений и творческой генерации, а также возможность выбрать баланс качества, скорости и размера через разные варианты квантования. Автор отмечает, что Q5_1 может быть стабильнее IQ4_NL в некоторых сценариях, тогда как IQ4_NL иногда даёт более свободные и непредсказуемые ответы. Ограничением является возможная неровность поведения и нестабильность, связанная с abliteration; модель может генерировать нежелательный или рискованный контент из-за отсутствия стандартных отказов. README не приводит системных требований и результатов независимого бенчмаркинга. Модель распространяется по лицензии Apache-2.0. Условия использования uncensored-версии следует учитывать отдельно от технической лицензии при применении в продуктивных системах.

PollardWeights/Qwen2.5-14B-Instruct-Pollard — это квантизированная версия Qwen2.5-14B-Instruct, разработанная PollardWeights на основе модели Qwen от Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая объяснения, программирование, рассуждения и творческое продолжение текста. Поддерживает только текстовый ввод; заявленный язык — английский. Архитектура — qwen2, размер — около 14,8 млрд параметров, формат распространения — GGUF. Модель использует смешанную квантизацию PollardMix с распределением разрядности по чувствительности отдельных слоёв, а не равномерное сжатие. Доступны варианты от Q6_K размером около 12,12 ГБ до IQ1_KT размером 3,92 ГБ. Крупные варианты обеспечивают более высокое качество, а IQ4_XS позиционируется как оптимальный баланс размера и качества. IQ1_KT позволяет запускать модель при ограниченных ресурсах, но требует ik_llama.cpp и работает медленнее, чем некоторые более крупные варианты. Сильной стороной является существенное уменьшение размера по сравнению с F16-версией: примерно с 29,60 до 3,92 ГБ. По измерениям на WikiText-2 вариант Q6_K близок к F16 по perplexity, а PollardMix превосходит равномерную 1-битную квантизацию по указанным метрикам и сохраняет связность в чат-сценариях. Ограничения включают потери качества при агрессивной квантизации, зависимость IQ1_KT от ik_llama.cpp, отсутствие данных о других языках и неполные сведения о длине контекста. Лицензия — Apache-2.0.

Qwen3-0.6B-GGUF — компактная языковая модель семейства Qwen3, разработанная Alibaba Cloud и представителями команды Qwen. Это causal language model с предварительным обучением и последующей настройкой, предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, а также интеграции с внешними инструментами. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не относятся к embedding, имеет 28 слоёв и использует Grouped-Query Attention с 16 головами для Q и 8 для KV. Длина контекста заявлена до 32 768 токенов. Представлена в формате GGUF с квантизацией q8_0, что делает её подходящей для локального запуска через llama.cpp и Ollama при ограниченных вычислительных ресурсах. Модель поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Ключевая особенность Qwen3 — переключение между режимами thinking для сложных задач и рассуждений и non-thinking для более быстрых ответов и обычного диалога. Сильными сторонами являются компактность, поддержка многоязычных сценариев, диалоговые возможности, следование инструкциям и пригодность для локального использования. Ограничения включают небольшой по современным меркам размер, возможное снижение качества на сложных задачах по сравнению с более крупными моделями, а также необходимость подбора параметров генерации; README отдельно предупреждает о повторениях при жадном декодировании в thinking mode. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-DARK-ROAST-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP — мультимодальная плотная модель семейства Qwen3.5 с 9 млрд параметров, разработанная DavidAU совместно с Nightmedia. Это многоэтапный fine-tune и merge нескольких моделей Qwen3.5-9B; карточка описывает полноточную версию в 16-битном формате и отдельно упоминает варианты GGUF с NEO IMATRIX и MTP для ускоренной генерации. В метаданных указан формат safetensors и библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма и ролевых сценариев. Она принимает текст и изображения, поддерживает английский и китайский языки и, согласно карточке, контекст до 256 тысяч токенов. Также заявлен интерфейс вызова инструментов. Автор приводит результаты бенчмарков, но они не гарантируют превосходства на любых пользовательских задачах; видео не тестировалось. Автор характеризует модель как полностью uncensored и сообщает об удалении отказов; это может приводить к генерации нежелательного или небезопасного содержания. Лицензия — Apache-2.0. Для использования зрения в описанных GGUF-вариантах требуется отдельный файл mmproj.

Карточка модели dshive/Qwen3.6-27B на Hugging Face совпадает с карточкой Qwen/Qwen3.6-27B, поэтому описание составлено по ней. Qwen3.6-27B — открытая модель с весами от команды Qwen, представленная как постобученная модель в формате Hugging Face Transformers. Это причинная языковая модель с визуальным энкодером, содержащая 27 млрд параметров; она поддерживает чат и интерфейс вызова инструментов. Модель предназначена для программирования, агентных сценариев и работы с изображениями, а README также описывает ввод видео. Указанная длина контекста — 262 144 токена с возможностью расширения до 1 010 000 токенов. В README отмечены задачи на уровне репозитория, разработка интерфейсов и сохранение контекста рассуждений между сообщениями. Модель можно запускать через Transformers и использовать с vLLM, SGLang и KTransformers; для высоких нагрузок авторы рекомендуют специализированные серверы инференса. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0.

Qwen3.6-27B-Fable-Agentic — плотная мультимодальная модель на 27 млрд параметров, созданная LemuraLabs дообучением Jackrong/Qwopus3.6-27B-v2. Она предназначена для диалога, пошаговых рассуждений и вызова инструментов в многоходовых агентных сценариях; архитектура поддерживает работу с текстом и изображениями. В карточке приведены результаты сравнительных тестов с базовой моделью: 88,29% на MMLU-Pro, 97,33% на GSM8K и 57,07% на GPQA-Diamond. Модель подходит для ответов на общие вопросы, математических задач и систем, которые передают запросы внешним инструментам. В README для обслуживания через vLLM указан контекст до 16 384 токенов. Модель распространяется по лицензии Apache-2.0. Заявленные характеристики и результаты приведены в карточке модели и не являются независимой оценкой качества.

Мультимодальная диалоговая модель Qwen3.5, дообученная stavh2001 на базе stavh2001/qwen3.6-27b-merged_28_05. Она предназначена для диалогов с текстовыми и визуальными входными данными; поддерживает вызов инструментов. В метаданных указаны архитектура Qwen3_5ForConditionalGeneration и формат safetensors. Для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель распространяется по лицензии Apache-2.0.

DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия модели Qwen3.8 с 27 млрд параметров, созданная DavidAU и его командой с использованием Unsloth, методов Cold Fusion и Fable Fusion. Модель распространяется в формате GGUF с обычными и MTP-квантами, включая варианты с точностью 4 и 8 бит. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, сторителлинга и ролевых сценариев. По заявлению автора, её настройка направлена на сокращение объёма рассуждений и ускорение генерации при сохранении детализации и качества ответов. В метаданных указаны английский и китайский языки, а также тег image-text-to-text, однако конкретные возможности обработки изображений в README не описаны. Размер контекста и точная архитектура также не указаны. К сильным сторонам относятся заявленные улучшения решения задач, генерации кода и художественного текста, поддержка нескольких режимов рассуждений, снижение избыточного расхода токенов и варианты для запуска на потребительском оборудовании. Автор сообщает о превосходстве базовой Qwen3.8 27B в ряде внутренних или указанных в README тестов, но независимая проверка этих утверждений не приведена. Ограничения включают возможные потери качества при использовании низкобитных квантов, а также отсутствие подробных сведений о контекстном окне, требованиях к ресурсам и фактической мультимодальной поддержке. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — многоэтапная дообученная и объединённая версия модели Qwen3.8-27B, опубликованная DavidAU. Модель создана с использованием Unsloth, методов COLD FUSION и Fable Fusion 711, а также представлена в форматах GGUF с обычными и MTP-квантами. Заявлены поддержка английского и китайского языков и лицензия Apache-2.0. В метаданных указан тип pipeline image-text-to-text, однако подробности о фактической поддержке изображений не приведены. Модель предназначена для широкого круга задач: рассуждений, решения задач, программирования, творческого письма, художественной прозы, ролевых сценариев и диалогов. Ключевая особенность — стремление сократить объём рассуждений и ускорить генерацию при сохранении подробности ответов; заявлено сокращение числа thinking-токенов примерно от двух до десяти раз по сравнению с обычной Qwen3.8. Доступны варианты для запуска на потребительском оборудовании, включая 4-битные и 8-битные квантизации. Ограничения включают отсутствие указаний на размер контекстного окна, точный набор поддерживаемых модальностей и подробные независимые результаты тестирования; приведённые сведения о превосходстве над другими моделями основаны на заявлениях автора.

Qwopus3.6-35B-A3B-v1-MTP-GGUF — модель Jackrong, основанная на unsloth/Qwen3.6-35B-A3B. Это мультимодальная модель в формате GGUF для генерации текста и обработки связок «изображение—текст», ориентированная на диалоговые сценарии, рассуждения, работу с инструментами и вызов функций. В метаданных указана поддержка английского, китайского, испанского, русского и японского языков. Релиз сохраняет MTP-компоненты исходной архитектуры Qwen3.6. Multi-Token Prediction позволяет одновременно предсказывать несколько последующих токенов и использовать speculative decoding: черновая модель предлагает последовательность токенов, а целевая модель проверяет её параллельно. Это может повысить скорость инференса при совместимости используемого движка с MTP, включая llama.cpp и производные решения. Доступны варианты с разными уровнями квантования — от Q2_K до Q8_0, а также BF16. Для оптимальной производительности требуется соответствующая draft-модель, поддерживающая спекулятивное декодирование; без такой связки преимущество MTP может быть недоступно. Точный размер контекста, подробности архитектуры, результаты оценки качества и ограничения мультимодальных возможностей в README не указаны. Модель распространяется по лицензии Apache 2.0.

Qwopus3.8-27B-Flash — плотная мультимодальная модель на 27 млрд параметров, дообученная разработчиком Jackrong на Qwen/Qwen3.8-27B. Она принимает текст и изображения и предназначена для диалогов, анализа изображений, программирования и многошаговых агентных сценариев с повторными вызовами инструментов. Автор описывает обучение в два этапа: контролируемое дообучение на отфильтрованных примерах и усиление рассуждений с помощью NeMo-RL и GSPO. Модель ориентирована на снижение задержки и затрат рассуждений; в карточке также заявлены ускоренное декодирование и поддержка спекулятивного декодирования MTP. Модель поддерживает английский, китайский, испанский, русский и японский языки. Лицензия — Apache-2.0. Подходит для локального инференса, длительных агентных циклов и задач, где важны скорость ответа и расход вычислительных ресурсов. Выпуск отмечен автором как экспериментальный; широкая оценка безопасности и надежности агентов не проводилась.

CultriX/SeQwence-14Bv6 — объединённая языковая модель, созданная с помощью mergekit методом Model Stock на основе Qwen/Qwen2.5-14B-Instruct. В объединение вошли SeQwence-14Bv2, Qwestion-14B, Qwen2.5-Lumen-14B, Qwen2.5-14B-Wernicke, Virtuoso-Small, SeQwence-14Bv1 и SeQwence-14B-EvolMerge. Модель предназначена для генерации текста и диалоговых сценариев. Она использует плотную архитектуру Qwen2 с 14 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Метаданные отмечают интерфейс для вызова инструментов, однако README не описывает его поведение и ограничения. Модель опубликована в формате safetensors для Transformers. Условия лицензии в предоставленных данных не указаны.

Smaug-72B-v0.1 — языковая модель abacus.ai, дообученная методом DPO-Positive (DPOP) для повышения качества ответов и результатов на задачах общего назначения. Она построена на архитектуре LlamaForCausalLM и содержит 71 млрд параметров; исходной моделью для дообучения указана moreh/MoMo-72B-lora-1.8.7-DPO, которая, согласно README, основана на Qwen-72B. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов. Модель предназначена для диалога, ответов на вопросы, рассуждений и решения задач, в том числе математических. В README приведены результаты оценки на ARC, HellaSwag, MMLU, TruthfulQA, Winogrande, GSM8K и MT-Bench; они характеризуют тестирование авторов и не гарантируют аналогичное качество в других сценариях. Модель выпущена в формате safetensors. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует проверить в карточке модели.

SmolLM3-3B — открытая языковая модель с 3 млрд параметров, разработанная HuggingFaceTB и преобразованная в формат LiteRT-LM для локального запуска на устройствах и компьютерах. Это decoder-only модель для генерации текста, диалогов, рассуждений и других задач, поддерживаемых базовой SmolLM3. Модель ориентирована на сценарии on-device и edge-инференса, включая Android-смартфоны, iPhone, Raspberry Pi, настольные системы и локальный OpenAI-совместимый API-сервер. Представленная версия использует блочную симметричную int4-квантизацию с размером блока 32 и оптимальным клиппингом OCTAV; эмбеддинги имеют формат INT8, вычисления выполняются в целочисленном формате. Файл основной версии занимает около 1,9 ГБ, контекст KV-кэша ограничен 4096 токенами. В архитектуре базовой модели заявлены GQA, расписание внимания NoPE, мультиязычная поддержка и обучение на длинном контексте. В комплект входят токенизатор и шаблон ChatML, поэтому отдельные файлы токенизатора не требуются. Сильные стороны модели — небольшой размер для класса 3B, открытая лицензия Apache-2.0, поддержка полностью локального инференса и наличие GPU-ускорения на совместимых устройствах. Производительность зависит от оборудования: в приведённых измерениях она достигала 93,2 токена/с при декодировании на Apple M4 Max и 22,5 токена/с на iPhone 17 Pro. Ограничения включают потери качества и возможные особенности поведения, связанные с int4-квантизацией, фиксированный контекст 4096 токенов и зависимость скорости от конкретного LiteRT-LM backend, устройства и объёма доступной памяти.

mlx-community/Apertus-8B-Instruct-2509-bf16 — версия модели Apertus-8B-Instruct-2509, подготовленная сообществом mlx-community для запуска в MLX. Основа — дообученная диалоговая модель Swiss AI Initiative с плотной архитектурой ApertusForCausalLM; в метаданных указано 10,3 млрд параметров и контекст до 65 536 токенов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и работы с длинным контекстом. Метаданные отмечают интерфейс вызова инструментов и многоязычную поддержку, но README не уточняет список языков и не содержит примеров качества. Репозиторий распространяется по лицензии Apache-2.0.

AquilaChat2-34B — чат-модель семейства Aquila2, разработанная BAAI. Она предназначена для диалогового общения и генерации ответов на текстовые запросы. Модель имеет плотную архитектуру AquilaForCausalLM, содержит 33,1 млрд параметров и рассчитана на контекст до 4096 токенов. Модель выпущена в формате PyTorch. В субъективной оценке по восьми направлениям возможностей разработчик сообщает о результатах, близких к GPT-3.5 или превосходящих их. В обучающих данных обнаружили утечку тестовых примеров GSM8K; результаты оценки на GSM8K были исключены. Лицензия указана как other, поэтому условия использования следует уточнять в материалах разработчика.

Bielik-PL-Minitron-7B-v3.0-Instruct — генеративная языковая модель SpeakLeash и ACK Cyfronet AGH с архитектурой causal decoder-only и 7,35 млрд параметров. Это дообученная и сжатая версия Bielik-11B-v3-Base-20250730: модель прошла структурное прореживание и дистилляцию, затем настройку на следование инструкциям и выравнивание предпочтений. Для диалога используется шаблон ChatML. Модель предназначена для генерации ответов и выполнения языковых задач на польском и других европейских языках. Она обучалась на корпусе из 32 европейских языков с особым акцентом на польский; README сообщает о сохранении около 90% производительности исходной модели и ускорении вывода до 50% после сжатия. Лицензия Apache 2.0. Модель может выдавать фактически неверные, предвзятые или оскорбительные ответы; встроенных механизмов модерации нет, поэтому результаты следует проверять, а для сценариев с требованиями к модерации нужны внешние меры контроля.

DeepSeek-V4-Flash-0731-GPTQ-Int4-V1 — это 4-битная GPTQ-квантизованная версия модели DeepSeek-V4-Flash-0731, опубликованная пользователем sokada4. Квантизация выполнена с помощью GPTQModel 7.3.4 и предназначена для более эффективного запуска исходной модели при ограниченных ресурсах GPU. Данные о точном размере модели, архитектуре, поддерживаемых модальностях, полном наборе языков и исходном размере контекста в README не указаны. Модель использует схему W4A16 с 4-битными весами, group size 128, симметричной квантизацией и упаковкой в int32; параметр lm_head не квантизован. Калибровка проведена на 128 примерах на китайском, английском, японском языках и Python-коде с длиной последовательности 2048 токенов. В README приведены результаты на 4 GPU Ampere: по сравнению с неквантизованным fp8-чекпойнтом модель показала меньшее время до первого токена и более высокую производительность, особенно при параллелизме 8. Основные ограничения связаны с инфраструктурой: для запуска через vLLM требуется специальная сборка с поддержкой DeepSeek-V4 GPTQ для GPU Ampere, а полный чекпойнт занимает около 153 ГБ и может потребовать выгрузки части весов в CPU. Релиз является первой калибровочной версией V1; заявлена возможная последующая версия V2 с другим набором калибровочных данных. Лицензия — MIT, унаследованная от базовой модели.

EuroLLM-22B-Instruct — многоязычная большая языковая модель на 21,9 млрд параметров, разработанная консорциумом европейских университетов и компаний во главе с Instituto Superior Técnico — University of Lisbon при финансировании Европейского союза. Это плотный Transformer на базе архитектуры Llama; модель дообучена следовать инструкциям и поддерживать диалог. Контекстное окно — 32 768 токенов. Модель предназначена для многоязычных диалогов, выполнения общих инструкций и машинного перевода, в том числе между официальными языками ЕС. По данным карточки, предшествующая базовая модель EuroLLM-22B обучена на 4 трлн токенов из веб-данных, параллельных корпусов и высококачественных источников. Заявлена поддержка болгарского, хорватского, чешского, датского, нидерландского, английского, эстонского, финского, французского, немецкого, греческого, венгерского, ирландского, итальянского, латышского, литовского, мальтийского, польского, португальского, румынского, словацкого, словенского, испанского, шведского, арабского, каталанского, китайского, галисийского, хинди, японского, корейского, норвежского, русского, турецкого и украинского языков. Разработчики отмечают высокие результаты на задачах перевода и многоязычных бенчмарках. Модель не выровнена по человеческим предпочтениям и может выдавать галлюцинации, вредоносный контент или ложные утверждения. Лицензия — Apache 2.0.

Falcon-H1-3B-Instruct — многоязычная генеративная языковая модель семейства Falcon-H1, разработанная TII. Это причинная decoder-only модель с гибридной архитектурой Transformer и Mamba; в метаданных указано 2,2 млрд параметров и контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения. Модель можно запускать через Transformers, vLLM и llama.cpp. В карточке приведены результаты сравнительной оценки на общих тестах, включая BBH и ARC-C. Указана лицензия Falcon-LLM License; её условия следует учитывать перед использованием и распространением.

Gemma 3n E2B IT — мультимодальная инструктивная модель Google для работы на устройствах с ограниченными ресурсами. Она принимает текст, изображения, видео и аудио, а выдаёт текст; запуск поддерживается библиотекой Hugging Face Transformers. Модель основана на архитектуре MatFormer с выборочной активацией параметров и использует вложенную подмодель из Gemma 3n E4B IT. При общем количестве около 6 млрд параметров её эффективный размер и требования к памяти сопоставимы с традиционной моделью на 2 млрд параметров. Модель подходит для диалоговых помощников, создания и обобщения текстов, ответов на вопросы по визуальным материалам, расшифровки речи и перевода речи в текст. Обучение охватывало более 140 разговорных языков, но карточка не выделяет основной язык. Возможности включают мультимодальный ввод с изображениями и видео, а также аудио; метаданные каталога подтверждают задачу image-text-to-text и возможности чата и зрения. Ответы могут содержать фактические ошибки и отражать предвзятость обучающих данных; модели также бывает трудно обрабатывать неоднозначность и сложные открытые задачи. Лицензия Gemma; применяйте модель с учётом условий лицензии Google Gemma.

Gemma 3n E4B IT — мультимодальная инструктивная модель Google из семейства Gemma, рассчитанная на эффективный запуск на устройствах с ограниченными ресурсами. Она принимает текст, изображения, видео и аудио, а выдаёт текст; доступна для использования через библиотеку Transformers. В модели около 8 млрд параметров, но выборочная активация параметров и перенос редко используемых матриц позволяют запускать её с затратами памяти, сопоставимыми с обычной моделью на 4 млрд параметров. Архитектура MatFormer включает вложенную подмодель E2B и поддерживает создание вариантов разных размеров методом Mix-and-Match. Модель подходит для диалога, генерации и суммаризации текста, описания визуальных материалов, транскрибирования речи и перевода аудио в текст. Обучающие данные охватывают более 140 устных языков, но в карточке не перечислены языки, поддерживаемые в конкретных задачах. Модель может ошибаться в фактах, упускать языковые нюансы и отражать предвзятости обучающих данных; сложные задачи и неоднозначные инструкции могут снижать качество ответов. Лицензия — Gemma License.