I.6Перевод и языковая адаптация

Многоязычная инструкционно настроенная языковая модель Meta на архитектуре авторегрессионного трансформера Llama 3.1. Репозиторий unsloth/Llama-3.1-8B-Instruct основан на meta-llama/Llama-3.1-8B-Instruct и содержит плотную модель примерно на 7,5 млрд параметров в формате Safetensors; для настройки использовались supervised fine-tuning и обучение с обратной связью от людей. Модель принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов, а длина контекста составляет до 131 072 токенов. Модель предназначена для диалоговых помощников и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно применять для ответов на вопросы, составления и преобразования текстов, суммаризации и генерации синтетических данных. К сильным сторонам относятся широкий контекст, многоязычность и возможность интеграции с инструментами. Качество и безопасность ответов могут различаться между языками и сценариями; карточка рекомендует осторожность при использовании неподдерживаемых языков и интеграции сторонних инструментов. Модель распространяется по лицензии Llama 3.1 Community License с условиями коммерческого и исследовательского использования.

RedHatAI/Llama-3.3-70B-Instruct-quantized.w4a16 — это квантизированная инструкционно настроенная языковая модель на базе Meta Llama-3.3-70B-Instruct, разработанная Red Hat совместно с Neural Magic. Модель принимает текст и генерирует текст, поэтому предназначена для диалоговых ассистентов, задач генерации естественного языка, а также для создания синтетических данных и дистилляции других моделей. Модель содержит 70 миллиардов параметров и использует INT4-квантизацию весов линейных операторов в трансформерных блоках. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритм GPTQ, реализованный в библиотеке llm-compressor. Переход с 16 на 4 бита уменьшает размер модели на диске и требования к памяти GPU примерно на 75%. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Для эффективного развертывания рекомендуется vLLM; модель также валидирована в RHOAI 2.20, RHAIIS 3.0 и RHELAI 1.5. В README приведён пример запуска с максимальной длиной контекста 32768 токенов, однако этот параметр указан для конфигурации развертывания. К сильным сторонам относятся существенно сниженные требования к дисковой и GPU-памяти при сохранении назначения исходной instruct-модели и поддержка многоязычных диалоговых сценариев. Ограничения включают работу только с текстом, возможное влияние квантизации на качество по сравнению с исходной моделью и запрет использования для языков, не перечисленных в документации. Модель распространяется по Llama 3.3 Community License; также необходимо соблюдать применимое законодательство и Acceptable Use Policy.

Mistral-Large-218B-Instruct — плотная языковая модель на 217,7 млрд параметров из семейства Mistral, созданная автором репозитория путём слияния исходной Mistral Large 2. Модель предназначена для генерации текста и диалоговых сценариев. Она поддерживает несколько естественных языков, а также обучена на более чем 80 языках программирования; заявленное контекстное окно — 128 тыс. токенов. Для запуска нужны значительные вычислительные ресурсы: в карточке рекомендованы восемь ускорителей H100 с суммарно 640 ГБ памяти либо распределённый запуск на нескольких машинах. Лицензия Mistral Research License разрешает использование и модификацию для исследований и некоммерческих целей. Автор описывает модель как экспериментальную тестовую сборку; встроенных механизмов модерации нет, ответы могут отражать предвзятость обучающих данных и требуют проверки в чувствительных сценариях.

RedHatAI/Mistral-Small-24B-Instruct-2501-quantized.w4a16 — квантизированная версия Mistral-Small-24B-Instruct-2501. Базовую модель разработала Mistral AI, а представленную оптимизированную сборку подготовила Neural Magic. Модель принимает текст и генерирует текст, предназначена для диалоговых приложений, ответов на вопросы и других задач text-to-text и text-generation. Поддерживаются английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский языки. Архитектура основана на Mistral-Small-24B-Instruct-2501 и содержит около 24 миллиардов параметров. Выполнена квантизация весов линейных операторов в трансформерных блоках до INT4; активации не квантизированы. По данным README, это снижает число бит на параметр с 16 до 4, а требования к дисковому пространству и памяти GPU — примерно на 75%. Модель оптимизирована для инференса через vLLM; в конфигурации развертывания указан максимальный контекст 32768 токенов. Ключевое преимущество сборки — уменьшенные требования к памяти при сохранении назначения исходной instruct-модели, что упрощает запуск на GPU. Ограничение заключается в том, что квантизация может влиять на качество генерации по сравнению с полной точностью, однако конкретные результаты бенчмарков в README не приведены. Модель проверена с RHOAI 2.20, RHAIIS 3.0, RHELAI 1.5 и vLLM 0.8.4. Лицензия — Apache-2.0.

MyAwesomeModel — языковая модель, распространяемая через библиотеку Transformers; разработчик в представленном README не указан. Модель ориентирована на задачи, требующие рассуждений и генерации текста, включая математические и логические задачи, программирование, ответы на вопросы, классификацию текстов, анализ тональности, суммаризацию, перевод, диалог, творческое письмо и следование инструкциям. Также заявлена поддержка function calling, загрузки файлов и генерации с использованием результатов веб-поиска. По данным README, обновлённая версия получила улучшения в глубине рассуждений, возможностях вывода и постобучении, а также сниженный уровень галлюцинаций. На тесте AIME 2025 точность выросла с 70% до 87,5%, при этом среднее число токенов рассуждения увеличилось примерно с 12 тысяч до 23 тысяч на задачу. В сводных оценках модель показывает наиболее заметные результаты в рассуждениях и генерации, однако конкретные архитектура, число параметров, поддерживаемые языки, модальности и размер контекстного окна не указаны. Для использования рекомендуется библиотека Transformers, системный промпт с текущей датой и температура 0,6. Специальные токены в начале ответа для включения определённого режима рассуждений не требуются. README также упоминает вариант MyAwesomeModel-Small, но не приводит его подробных характеристик. Модель распространяется по лицензии MIT.

next-8b-i1-GGUF — квантизированная GGUF-версия языковой модели next-8b, разработанной thelamapi и подготовленной квантизатором mradermacher. В README также указана поддержка со стороны nethype GmbH. Модель предназначена для генерации текста, диалоговых сценариев, аналитических и рассуждающих задач, а также многоязычного применения. Это текстовая Transformer-модель примерно на 8 млрд параметров, обученная и дообученная с использованием наборов данных для instruction tuning, reasoning, диалогов, программирования, медицинских и других специализированных текстовых сценариев. Заявлены языки: турецкий, английский, немецкий, испанский, французский, русский, китайский, японский и корейский. Мультимодальность и размер контекстного окна в README не указаны. Модель доступна в большом наборе GGUF-квантизаций размером примерно от 2,2 до 6,8 ГБ. Варианты различаются балансом между скоростью, требованиями к памяти и качеством; для общего использования рекомендован i1-Q4_K_M как быстрый вариант, а i1-Q4_K_S описан как оптимальный по соотношению размера, скорости и качества. Более агрессивные квантизации имеют заметные ограничения качества, поэтому конкретный вариант следует выбирать с учётом доступной памяти и требований к результату. Лицензия — MIT.

Qwen/Qwen1.5-110B-Chat — чат-модель из серии Qwen1.5, разработанной командой Qwen. Это бета-версия Qwen2: плотная авторегрессионная языковая модель на архитектуре Transformer с 110 млрд параметров, предназначенная для диалогов и генерации текста. Модель обучена следовать инструкциям и выдана в формате safetensors. Модель поддерживает многоязычное общение, а её контекстное окно составляет 32 768 токенов. В архитектуре серии используются SwiGLU, смещение в проекциях внимания QKV и, для версии 110B, групповое внимание запросов (GQA). Для работы подходит актуальная версия библиотеки Transformers; удалённый код модели не требуется. Модель подходит для диалоговых ассистентов, генерации и редактирования текста, а также ответов на вопросы по длинным входным материалам. Карточка не приводит конкретные результаты оценки качества и не перечисляет поддерживаемые языки по отдельности. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория.

Qwen2.5-1.5B-Instruct-AWQ — квантизированная 4-битная AWQ-версия инструкционно дообученной языковой модели Qwen2.5, разработанной командой Qwen. Модель предназначена для генерации текста, диалоговых приложений, следования инструкциям, написания кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель относится к каузальным языковым моделям и использует архитектуру на базе transformers с RoPE, SwiGLU, RMSNorm, смещениями в attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, 28 слоёв и механизм GQA с 12 головами для Q и 2 для KV. Поддерживаются контекст до 32 768 токенов и генерация до 8192 токенов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, итальянский, португальский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся компактный размер, сниженные требования к памяти благодаря 4-битной квантизации, улучшенные возможности следования инструкциям, работы с длинными текстами, кодом, математикой и JSON. Ограничения включают возможную потерю качества относительно исходной версии в формате bfloat16 из-за квантизации; конкретные результаты тестов в README не приведены. Модель распространяется по лицензии Apache-2.0.

Mungert/Qwen3.5-4B-GGUF — это GGUF-квантованная версия мультимодальной модели Qwen3.5-4B, опубликованная Mungert на основе базовой модели Qwen/Qwen3.5-4B-Base, разработанной командой Qwen. Модель предназначена для генерации и понимания текста, визуально-языковых задач, рассуждений, программирования, работы с агентами и анализа изображений. Формат GGUF ориентирован на локальный запуск с использованием совместимых инструментов, включая llama.cpp. Модель представляет собой авторегрессионную языковую модель с vision encoder и поддерживает обработку текста и изображений. Архитектура сочетает Gated Delta Networks, Gated Attention и разреженную Mixture-of-Experts; размер языковой части составляет около 4 млрд параметров, число слоёв — 32, размер скрытого состояния — 2560. Нативная длина контекста составляет 262 144 токена, с заявленной возможностью расширения до 1 010 000 токенов. Заявлена поддержка 201 языка и диалекта. Ключевая особенность этой версии — кастомная стратегия квантования: отдельные важные слои переводятся в более высокую точность сверх стандартной конфигурации IMatrix, что, по данным автора, может улучшать точность при сохранении преимуществ квантования. Ограничения зависят от выбранного варианта квантования и аппаратного обеспечения; снижение точности по сравнению с полной моделью возможно, а конкретные требования к памяти, результаты бенчмарков и доступные уровни квантования в представленном фрагменте не указаны. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B-QD-GGUF — квантизированная версия модели Qwen3.6-35B-A3B, подготовленная Quadux IT с использованием собственной методики Quadux Dynamic Quantization. Модель предназначена для диалоговых и мультимодальных сценариев, включая работу с текстом и изображениями, и рассчитана на запуск через llama.cpp в формате GGUF. В основе лежит MoE-архитектура: 35,5 млрд параметров всего и около 3 млрд активных параметров на токен. Используется гибридная схема attention с контекстом до 256 тысяч токенов и низкими затратами на KV-кэш. Поддерживаются английский, немецкий и, согласно карточке, другие языки. В комплект включены MTP head и совместимый vision projector, что обеспечивает поддержку изображений при использовании соответствующей конфигурации. Доступно несколько вариантов квантизации размером примерно от 10,6 до 26,42 ГБ, рассчитанных на видеокарты с 12–32 ГБ памяти. Распределение точности выполнено по результатам измерения чувствительности отдельных тензоров, поэтому варианты ориентированы на хорошее качество при ограниченном размере. Ограничения связаны с неизбежными потерями качества квантизации, зависимостью результата от выбранного варианта и необходимостью отдельного vision projector для мультимодальной работы. Лицензия — Apache 2.0.

IsValorum/Qwen3.8-35B-A3B-Distill-MTP-APEX-I-MiniPlus-V2.1-GGUF — это GGUF-квантизированная версия модели empero-ai/Qwen3.8-35B-A3B-Distill, подготовленная IsValorum. Модель предназначена для генерации текста, рассуждений, программирования и других задач, поддерживаемых llama.cpp и совместимыми инструментами. Архитектура основана на разреженной смеси экспертов (MoE): заявлены 35 млрд параметров и около 3 млрд активных параметров на токен, 40 слоёв и 256 микроэкспертов. Заявленный максимальный контекст — 256K токенов. Модель поддерживает английский, китайский, испанский, французский, немецкий, португальский, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Квантизация APEX-I-MiniPlus V2.1 использует комбинацию форматов IQ3_XXS, Q3_K, Q5_K, Q6_K, Q8_0 и F32; размер файла составляет приблизительно 13,74 GiB. В README заявлены сохранение маршрутизации экспертов в F32, оптимизация для работы с системной RAM и поддержка Multi-Token Prediction. Для мультимодальных сценариев упоминаются отдельные компоненты mmproj и MTP, однако основная карточка относится к текстовой GGUF-модели. Сильными сторонами заявлены компактный размер при сохранении качества, поддержка длинного контекста и возможность запуска с частичной или полной выгрузкой в GPU VRAM либо системную RAM. Производительность существенно зависит от видеопамяти, процессора, пропускной способности памяти и настроек llama.cpp; приведённые в README показатели скорости и perplexity являются заявленными авторами и не подтверждены независимой проверкой. Модель распространяется по лицензии Apache-2.0.

Qwen3-8B-GGUF — это квантизированная версия языковой модели Qwen3-8B, разработанной командой Qwen. Модель подготовлена в формате GGUF пользователем bartowski на основе llama.cpp, релиз b5200, и предназначена для генерации текста и локального использования через совместимые инструменты, включая LM Studio. Модель ориентирована на творческое письмо, ролевые сценарии, многошаговые диалоги, следование инструкциям, математику, программирование, рассуждения и агентские задачи. Она поддерживает более 100 языков и диалектов, а также режимы с рассуждением и без него; режим рассуждения можно отключить, добавив в запрос параметр /no_think. Заявлена поддержка контекста до 131 072 токенов с использованием YaRN, при этом стандартное значение составляет 32 000 токенов. Ключевое ограничение — это квантизированная сборка, поэтому фактические требования к ресурсам и качество могут зависеть от выбранного варианта квантизации и используемого программного обеспечения. Модель может генерировать неточные, вредные или неподходящие ответы, поэтому результаты требуют проверки. Лицензия модели — Apache-2.0.

Это облегчённая модель идентификации языка на основе библиотеки fastText, представленная Meta. Она классифицирует входной текст по языку; размещённая версия lid218e, выпущенная в рамках проекта NLLB, распознаёт 217 языков. Модель предназначена для автоматической маркировки языка коротких фрагментов, предварительной маршрутизации текста и выбора подходящих языковых инструментов. fastText рассчитан на эффективную работу на стандартном оборудовании и подходит как для прототипирования, так и для производственных сценариев. В README также описаны предобученные векторы fastText для 157 языков, полученные методом CBOW с позиционными весами и символьными n-граммами; эти параметры не следует считать подтверждённой спецификацией именно размещённого классификатора lid218e. Лицензия репозитория — CC BY-NC 4.0, поэтому коммерческое использование ограничено условиями лицензии. Возможны смещения в предсказаниях.

QuantFactory/Fireball-3.1-8B-ORPO-GGUF — квантизированная версия EpistemeAI/Fireball-3.1-8B-ORPO, созданная с помощью llama.cpp. В основе лежит Meta Llama 3.1 8B от Meta, дообученная методом ORPO, который объединяет supervised fine-tuning и выравнивание по предпочтениям в едином процессе. Разработчик и автор исходной версии — EpistemeAI; квантизацию также выполнила EpistemeAI. Модель предназначена для генерации текста, диалоговых ассистентов и других задач обработки естественного языка, включая работу с кодом. Это текстовая autoregressive Transformer-модель примерно на 8 млрд параметров с поддержкой Grouped-Query Attention. Заявлены мультиязычные текстовые входы и выходы, включая английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Максимальная длина контекста составляет 128 тысяч токенов, дата отсечения знаний — декабрь 2023 года. Квантизированный формат GGUF ориентирован на запуск через llama.cpp и может снизить требования к памяти и вычислительным ресурсам по сравнению с полноразмерными весами. Ограничения включают статичность знаний, возможные ошибки и ограничения качества после дообучения и квантизации, а также отсутствие поддержки изображений и других немультимодальных входов. В README указана лицензия Llama 3.1 Community License; при этом в разделе сведений о загруженной модели также упомянута Apache-2.0, поэтому условия распространения следует уточнить по актуальным файлам лицензии репозитория.

Gemma 3n E4B-it LiteRT-LM — мультимодальная instruction-tuned модель семейства Gemma, разработанная Google DeepMind на основе исследований и технологий Gemini. Она предназначена для эффективного выполнения на устройствах с ограниченными ресурсами, включая смартфоны, ноутбуки, настольные компьютеры и собственную облачную инфраструктуру. Модель подходит для ответов на вопросы, суммаризации, рассуждений, анализа изображений, а также обработки аудио- и видеоданных с генерацией текстовых ответов. Модель поддерживает текстовые, визуальные, аудио- и видеовходы и принимает контекст объёмом до 32K токенов; максимальная длина вывода составляет до 32K токенов за вычетом входных токенов. Изображения подаются в разрешениях 256×256, 512×512 или 768×768 и кодируются по 256 токенов каждое, аудио — со скоростью 6,25 токена в секунду для одного канала. Gemma 3n использует selective parameter activation и архитектуру Matformer, благодаря чему эффективный размер модели составляет около 4B параметров при меньших требованиях к ресурсам. Указанная версия доступна в формате LiteRT-LM и использует int4-квантизацию весов с float-активациями. К сильным сторонам относятся мультимодальность, возможность локального запуска и оптимизация для мобильных и других малоресурсных устройств. Модель обучалась на данных более чем на 140 разговорных языках, однако конкретный перечень языков и гарантии качества для каждого из них не указаны. Производительность зависит от устройства, аппаратного ускорения, кэширования и текущей нагрузки; приведённые benchmarks относятся к preview-версии LiteRT-LM и не гарантируют такие же результаты в других условиях. Для использования требуется принять условия лицензии Gemma Google.

MuXodious/gemma-4-12B-it-QAT-SOMPOA-heresy — дообученная версия мультимодальной инструкционной Gemma 4 12B от Google DeepMind. Автор репозитория применил к базовой модели метод abliteration с инструментом Heretic и настройками Self-Organizing Maps и Magnitude-Preserving Orthogonal Ablation; по карточке, доля отказов в указанном тесте снизилась с 522/535 до 34/535. Модель предназначена для диалога, рассуждений и генерации текста, а также для анализа изображений, видео и аудио; семейство Gemma 4 также поддерживает код и вызов инструментов. Для этой версии в карточке названы размер 12B, контекст до 256K токенов и поддержка более 140 языков. Архитектура — плотная Gemma4UnifiedForConditionalGeneration; репозиторий содержит веса safetensors. Карточка описывает её как вариант Gemma с ослабленными отказами, но не приводит отдельной оценки качества этой конкретной модификации. Базовая модель Gemma 4 QAT использует веса, подготовленные с учётом квантования, однако в этом репозитории указан вариант unquantized Q4_0, а формат файлов — safetensors. Лицензия — Apache-2.0.

GadflyII/GLM-4.7-Flash-NVFP4 — квантизированная версия GLM-4.7-Flash, разработанная на основе базовой модели Zhipu AI. Модель предназначена для генерации текста и задач общего назначения на английском и китайском языках, включая развёртывание через vLLM и Transformers. Это Mixture-of-Experts-модель архитектуры Glm4MoeLiteForCausalLM с 30 млрд параметров, из которых 3 млрд активируются для каждого токена. Она содержит 64 маршрутизируемых эксперта, 4 активных эксперта и 1 общего эксперта, а также 47 слоёв. Максимальная длина контекста составляет 202 752 токена. Квантизация выполнена в формате compressed-tensors NVFP4 с размером блока 16 и масштабами FP8 E4M3. Для сохранения качества attention-компоненты MLA, нормализация, gates и embeddings оставлены в BF16, тогда как MLP-эксперты и первый dense MLP используют FP4. Размер модели составляет около 20,4 ГБ против 62,4 ГБ у BF16-версии; на тесте MMLU-Pro она показала точность 23,55% против 24,83% у базовой версии, что соответствует снижению на 1,28 процентного пункта. Основные ограничения — необходимость совместимой NVIDIA GPU с поддержкой FP4 tensor cores и актуальных версий vLLM и Transformers. Для запуска рекомендуется vLLM 0.14.0 или новее; на мног GPU-системах Blackwell могут потребоваться дополнительные исправления для P2P и tensor parallelism. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

GLM-4-9B-Chat imatrix GGUF — это квантизированные версии диалоговой языковой модели GLM-4-9B-Chat, разработанной Zhipu AI. Данный репозиторий содержит сборки в формате GGUF с использованием imatrix, предназначенные для локального запуска через llama.cpp и совместимые с рядом клиентских приложений, включая JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Модель предназначена для многораундовых диалогов, генерации и понимания текста, рассуждений, работы с математическими и программными задачами, а также вызова пользовательских инструментов и выполнения кода в поддерживаемых средах. GLM-4-9B-Chat имеет около 9 миллиардов параметров, поддерживает контекст до 128K токенов и многоязычность, включая английский, китайский, японский, корейский и немецкий языки; всего заявлена поддержка 26 языков. Это текстовая модель, соответствующая задаче text-generation. К сильным сторонам относятся заявленная производительность, превосходящая Llama-3-8B на ряде оценок, поддержка длинного контекста и диалоговых функций. Ограничения связаны с необходимостью использовать совместимое программное обеспечение и включить Flash Attention при запуске через llama.cpp, иначе возможен сбой. В карточке указана лицензия other; подробные условия лицензии не приведены.

dealignai/GLM-5.3-UNCENSORED-FP8 — многоязычная текстовая генеративная модель, разработанная dealignai на основе JANGQ-AI/GLM-5.3-FP8 и upstream-модели zai-org/GLM-5.3. Это версия с уменьшенным поведением отказа от ответа, полученная прямым изменением весов без дообучения, LoRA, runtime-хуков или prompt-трюков. Модель предназначена для универсальной генерации текста, рассуждений, программирования, агентских и инструментальных сценариев, включая задачи, где требуется минимизация отказов по широкому спектру тематик. Модель использует архитектуру glm_moe_dsa с 753 млрд параметров, 78 слоями и текстовой модальностью. Применяется квантизация FP8; заявлена нативная производительность tensor cores на GPU Hopper, включая H100 и H200. Поддерживаются английский, китайский, русский, сербский, хинди, французский, испанский, арабский, корейский и японский языки. Для рассуждений доступны режимы low и high, однако отключить рассуждение на этом checkpoint нельзя; при больших значениях усилия рассуждения модель может исчерпать лимит токенов внутри блока размышлений и не выдать ответ. Сильными сторонами являются сохранение общей интеллектуальной способности относительно базовой модели, широкая многоязычность, снижение отказов и исправление обнаруженной в предыдущей версии проблемы циклического рассуждения. Ограничения включают чувствительность результата к настройкам reasoning_effort и max_tokens, практические ограничения длины контекста и неполную совместимость некоторых функций ускорения с vLLM. Модель распространяется по лицензии MIT.

SL-AI/GRaPE-2.5-Helios-GGUF — мультимодальная инструкционная модель семейства GRaPE 2.5, разработанная командой SL-AI. Это версия модели GRaPE 2.5 Helios в формате GGUF; базовая модель указана как SL-AI/GRaPE-2.5-Helios. Helios позиционируется как модель среднего размера с примерно 10 млрд параметров для локального использования и общих задач. Модель принимает изображения, видео и текст, а генерирует текст. Она предназначена для диалогов, творческих задач, агентного программирования, математики, естественно-научных и других STEAM-сценариев, а также задач рассуждения и анализа. Поддерживаются языки English, Chinese, French, German, Spanish, Japanese, Korean, Portuguese, Russian и Arabic. Архитектура в README не раскрыта, размер контекста также не указан. Ключевая особенность — управляемая глубина рассуждений через тег <thinking_mode=xxx> с режимами minimal, low, medium, high и xtra-hi. Это позволяет выбирать компромисс между скоростью и качеством для простых запросов, сложного кода, многошаговой математики и глубокого анализа. Модель также ориентирована на более естественный стиль текста, многоязычное рассуждение и агентные сценарии. Ограничения включают отсутствие заявленных количественных бенчмарков, неизвестные технические характеристики архитектуры и контекстного окна, а также необходимость корректно поддерживать специальные режимы рассуждений в используемом интерфейсе. Лицензия — Apache-2.0.

Llama-3.3-70B-Instruct-GGUF — квантизированная версия инструкционно дообученной языковой модели Llama 3.3 70B, разработанной Meta и подготовленной в формате GGUF сообществом lmstudio-community; в метаданных также указан quantized_by: bartowski. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и другие задачи обработки естественного языка. Она относится к семейству текстовых моделей и содержит около 70 миллиардов параметров. Сведения о конкретном варианте квантизации, размере контекста, поддерживаемых языках, точных модальностях и требованиях к аппаратному обеспечению в представленном README отсутствуют. Крупный размер модели потенциально обеспечивает высокое качество рассуждений и генерации, однако обычно требует значительных вычислительных ресурсов; влияние выбранной квантизации на качество и производительность здесь не уточняется. Модель распространяется по Llama 3.3 Community License от Meta. При распространении материалов или производных продуктов необходимо предоставлять текст лицензии, указывать «Built with Llama» и соблюдать применимую политику допустимого использования; для некоторых очень крупных коммерческих сервисов предусмотрены дополнительные лицензионные условия.

Модель avans06/Meta-Llama-3.2-8B-Instruct — текстовая генеративная модель семейства Llama, размещённая на Hugging Face. Метаданные указывают на плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров, формат safetensors и контекст до 131 072 токенов. Она предназначена для диалогов и генерации текста; также заявлен интерфейс вызова инструментов. Карточка репозитория описывает Llama 3.2-Vision моделей Meta на 11B и 90B параметров, принимающих текст и изображения. Эти сведения не совпадают с идентификатором и архитектурными метаданными данной 8B текстовой модели, поэтому визуальные возможности и характеристики Vision к ней не приписываются. Метаданные перечисляют поддержку английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Лицензия — Llama 3.2 Community License, обозначенная в метаданных как llama3.2.

SillyTilly/mistralai_Mistral-Nemo-Instruct-2407 — разговорная instruct-модель, созданная на основе Mistral-Nemo-Base-2407 совместно Mistral AI и NVIDIA. Это трансформер Mistral с плотной архитектурой и 12,1 млрд параметров, дообученный следовать инструкциям и вести диалог. Модель предназначена для генерации ответов, выполнения инструкций и вызова функций. Она обучалась на многоязычных данных и коде; карточка заявляет окно контекста 128 тыс. токенов, тогда как метаданные указывают 1 024 000 нативных токенов. Поддерживаются английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Модель задумана как замена Mistral 7B и может применяться в чат-ботах и текстовых помощниках. Модель выпущена по лицензии Apache 2.0. В карточке она названа демонстрацией возможностей дообучения базовой модели; указано, что у неё нет встроенных механизмов модерации, поэтому её ответы могут требовать отдельной проверки и фильтрации.

Rioky/Mistral-Small-4-119B-2603-heretic-i1-gguf — набор GGUF-квантизаций модели Mistral Small 4 119B 2603 Heretic. Базовая модель разработана Mistral AI, а версия Heretic опубликована darkc0de; данный набор подготовлен Rioky. Модель предназначена для генерации текста, мультимодального анализа изображений и текста, агентских сценариев, вызова функций с JSON-выводом и задач, требующих длинного контекста. Заявлена поддержка режимов быстрого ответа и рассуждений с дополнительными вычислениями во время вывода. Модель использует архитектуру Mistral4 с разреженной Mixture-of-Experts и MLA-вниманием: всего 119 млрд параметров, из которых активируются 6,5 млрд на токен; доступны 128 экспертов, 4 из них активируются для каждого токена. Контекстное окно составляет до 256 тысяч токенов. Поддерживаются текстовый и графический ввод с текстовым выводом. Указана многоязычность, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, корейский, арабский и другие языки. К сильным сторонам относятся большой контекст, мультимодальность, функции для агентских приложений, системные инструкции и несколько вариантов квантизации с importance matrix, которая призвана лучше сохранять качество на низких битностях. Ограничения включают значительные требования к памяти: размер файлов варьируется примерно от 29 до 91 ГиБ, а качество и скорость зависят от выбранного варианта. Показатель отказов Heretic-версии в README составляет 27 из 100 против 98 из 100 у исходной модели, однако независимые оценки качества не приведены. Распространение заявлено по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование.

Mike0307/multilingual-e5-language-detection — модель классификации текста для определения языка. Она разработана на основе multilingual-e5-base и дообучена на наборе данных common_language; архитектура — XLM-RoBERTa для классификации последовательностей, размер — 305,2 млн параметров. Модель поддерживает определение 45 языков и принимает текст длиной до 514 токенов. Модель подходит для автоматической разметки языка коротких сообщений и документов, маршрутизации текста по языковым конвейерам и предварительной фильтрации многоязычных корпусов. В README заявлена общая точность 98,37% на тестовой части common_language; результаты зависят от данных и условий оценки. Распространяется по лицензии Apache-2.0.

Multilingual MiniLM-L12-v2 (Harrier-Distilled) — компактный многоязычный кодировщик предложений, дообученный командой agentlans методом дистилляции эмбеддингов на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 с учителем microsoft/harrier-oss-v1-270m. Модель содержит 124,3 млн параметров, использует архитектуру BERT и принимает текстовые последовательности длиной до 512 токенов. Для работы требуется вспомогательный пакет, поскольку модель использует обученный проекционный слой. Модель предназначена для межъязыкового семантического поиска, сравнения сходства текстов, кластеризации и фильтрации корпусов, включая параллельные и переводные данные. Она рассчитана на высокую пропускную способность при умеренных вычислительных затратах и ориентирована на многоязычные сценарии. Лицензия — Apache-2.0. Качество может снижаться для малоресурсных языковых вариантов и узкоспециализированной терминологии. Размерности и архитектура отличаются от учительской модели, поэтому её представления не взаимозаменяемы с представлениями учителя.

MyAwesomeModel — языковая модель, представленная в репозитории david123TJP/MyAwesomeModel-TestRepo. README не указывает имя разработчика или организацию, создавшую модель. Модель реализована с использованием библиотеки Transformers и распространяется по лицензии MIT. Модель предназначена для сложных задач рассуждения, математических и логических задач, программирования, понимания и генерации текста, классификации, анализа тональности, суммаризации, перевода, ответов на вопросы и диалогового взаимодействия. Также заявлена поддержка function calling, системных промптов, загрузки файлов и генерации с использованием результатов веб-поиска. По данным README, после обновления были улучшены глубина рассуждений, возможности вывода и снижена частота галлюцинаций. Точные сведения об архитектуре, количестве параметров, модальностях, языках и размере контекстного окна не приведены. Указано, что модель использует увеличенную глубину рассуждений: в тесте AIME 2025 среднее использование выросло примерно с 12K до 23K токенов на вопрос, а точность повысилась с 70% до 87,5%. Для работы рекомендуется temperature 0,6 и системный промпт с текущей датой. README также упоминает вариант MyAwesomeModel-Small, архитектура которого идентична базовой модели, но подробности о нём не раскрыты.

MyAwesomeModel — репозиторий модели пользователя zhujiaying-mcpbench на Hugging Face. Метаданные указывают на архитектуру BERT, класс BertModel и задачу feature-extraction; модель принимает текст и предназначена для получения векторных представлений, например для поиска и сравнения текстов. Указаны библиотека Transformers, формат PyTorch и лицензия MIT. Веб-результат сообщает, что репозиторий пуст и не содержит весов, конфигурации или кода, поэтому применимость модели и заявленные в карточке возможности нельзя проверить. Сведения о размере, контексте и поддерживаемых языках надёжно не установлены.

PolarisLM — плотная языковая модель семейства PolarNet с 9,2 млрд параметров, разработанная авторами семейства Polaris. Она предназначена для диалогового помощника, рассуждений, генерации текста и кода, ответов на вопросы, а также вызова функций и инструментов. Модель принимает текст и генерирует текст; заявлены улучшения в сложных рассуждениях, снижении галлюцинаций и надёжности вызова функций. Для работы с длинными запросами поддерживает контекст до 32 768 токенов. В README приведены результаты на арифметических, логических, фактических и многоязычных задачах, включая рост точности на GPQA-Diamond с 62,0% у предыдущей версии до 79,8%; авторы связывают это с более длинным рассуждением. Для запуска предлагается использовать температуру 0,5 и системный запрос с текущей датой. Модель распространяется по лицензии Apache-2.0. Численные результаты и сравнения приведены авторами README; независимая проверка в предоставленных данных не описана.

Qwen2.5-1.5B-Instruct-GGUF — инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это вариант базовой модели Qwen2.5-1.5B-Instruct в формате GGUF для локального запуска, в том числе с использованием llama.cpp. Модель предназначена для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, работы с кодом и математическими задачами, понимания таблиц и других структурированных данных, а также генерации структурированных ответов, включая JSON. Модель представляет собой causal language model на архитектуре transformers с RoPE, SwiGLU, RMSNorm, bias в Attention QKV и связанными эмбеддингами слов. Она содержит 1,54 млрд параметров, из которых 1,31 млрд приходятся на параметры без учёта эмбеддингов, имеет 28 слоёв и GQA с 12 головами для Q и 2 для KV. Поддерживаются контекст до 32 768 токенов и генерация до 8192 токенов. Указана поддержка более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Репозиторий содержит варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. К сильным сторонам относятся небольшой размер, возможность локального запуска, улучшенные следование инструкциям, генерация длинных текстов, работа со структурированными данными, кодом и математикой, а также устойчивость к различным системным промптам. Ограничения связаны с компактным масштабом в 1,5 млрд параметров и потерями точности, возможными при квантовании; конкретные показатели производительности в README не приведены. Модель распространяется по лицензии Apache-2.0.