I.2Синтез, понимание и проверка знаний

rwkv-6-world-7b-GGUF — это GGUF-квантизированная версия языковой модели RWKV-6 World 7B, разработанной командой RWKV и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp и LM Studio. Модель содержит около 7 миллиардов параметров и использует архитектуру RWKV-6. В репозитории представлены варианты от полноточного F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и Q2, а также форматы IQ. Размер файлов составляет примерно от 3,02 до 15,51 ГБ, поэтому можно выбирать между качеством генерации и требованиями к памяти. Квантизация выполнена с использованием imatrix на базе llama.cpp; отдельно доступны варианты, оптимизированные для ARM-процессоров. Сильной стороной репозитория является широкий выбор квантизированных сборок, включая рекомендуемые варианты Q4 и Q5, что упрощает запуск модели на компьютерах с ограниченными ресурсами. При этом качество низкобитных вариантов снижается, а для некоторых ARM-сборок требуются определённые аппаратные расширения. Формат промпта, поддерживаемые языки, максимальный контекст и лицензия в предоставленном README не указаны; для их определения требуется информация со страницы исходной модели RWKV/rwkv-6-world-7b.

Модель yuhengtu-bytedance/sfm_unfiltered_midtrain_misalignment-0k_1k_2k_3k_4k_simpleavg_merge — объединение предварительно обученных языковых моделей, созданное с помощью mergekit. В качестве базового чекпойнта для слияния Linear использован global_step4000; также объединены чекпойнты global_step0, global_step1000, global_step2000 и global_step3000 из эксперимента unfiltered_midtrain_misalignment. Идентификаторы исходных чекпойнтов указывают на локальные пути и не позволяют установить их общедоступные названия. Модель имеет плотную архитектуру GPT-NeoX с причинно-языковой головой, содержит 8,8 млрд параметров и принимает текст для генерации продолжений и диалоговых ответов. Контекстное окно составляет 16 384 токена; репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Карточка не сообщает о специальной предметной области или лицензии, поэтому условия распространения по этим данным определить нельзя.

Spark-X2.5-4B-Q8_0-GGUF — это GGUF-сборка языковой модели Spark-X2.5-4B, разработанной XHToken. Данная версия подготовлена в формате Q8_0 и предназначена для генерации текста с использованием llama.cpp и совместимых инструментов. В README заявлены поддерживаемые языки English и Chinese, а также базовая модель с размером 4B параметров. Файл модели занимает примерно 4,38 ГБ. Квантование Q8_0 снижает требования к памяти по сравнению с полной BF16-версией, сохраняя высокую точность представления весов. В качестве серверной конфигурации приведён контекст 65536 токенов, однако архитектурные особенности и точный максимальный контекст модели отдельно не указаны. Модель ориентирована на локальный текстовый inference и может использоваться в приложениях, поддерживающих GGUF и llama.cpp. Ключевое ограничение — для поддержки Spark-X2.5 требуется совместимая реализация XHToken/llama.cpp, поэтому стандартная версия llama.cpp может быть несовместима. Лицензия модели — Apache License 2.0, как и у базовой модели.

sparsetral-16x7B-v2-SPIN_iter1 — разговорная языковая модель семейства Sparsetral, опубликованная serpdotai. Это итерация дообучения базовой sparsetral-16x7B-v2-SPIN_iter0 методом SPIN на OpenHermes-2.5 с добавлением примеров из наборов DPO. Модель построена на архитектуре MistralForCausalLM с разреженной смесью экспертов (MoE); метаданные указывают 7,1 млрд параметров, контекст до 32 768 токенов и формат Safetensors. Модель предназначена для генерации текста в диалогах и выполнения общих инструкций на английском языке. В README указан формат диалога с ролями system, user и assistant. Разработчик описывает эту версию как промежуточную итерацию и отмечает, что обучение пока приостановлено; поддержка специальных токенов чата и вызова функций обсуждалась как возможное направление дальнейшей работы. Модель распространяется по лицензии Apache-2.0. Ее характеристики отражают конкретную итерацию обучения, поэтому качество на отдельных задачах может различаться; в README разработчик приглашает присылать примеры задач, с которыми Sparsetral справляется слабо.

SqueezeBERT — предварительно обученная англоязычная модель семейства BERT, разработанная Forrest Iandola и соавторами. Она обучена на BookCorpus и англоязычной Википедии с задачами masked language modeling и sentence order prediction; регистр букв не учитывается. Модель использует плотную архитектуру SqueezeBERT: полносвязные слои BERT-base заменены групповыми свёртками. В репозитории указано 136,7 млн параметров и контекст длиной до 512 токенов. Модель предназначена для последующего дообучения под задачи понимания английского текста, включая классификацию и задачи набора GLUE. Авторы сообщают, что SqueezeBERT работает в 4,3 раза быстрее BERT-base-uncased на смартфоне Google Pixel 3. Это предварительно обученная базовая модель без тонкой настройки под конкретную задачу, поэтому для готовой классификации обычно потребуется дообучение. Лицензия — BSD.

MaziyarPanahi/Starling-LM-7B-alpha-GGUF — это набор файлов модели в формате GGUF для модели berkeley-nest/Starling-LM-7B-alpha, разработанной berkeley-nest и переквантизированной MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, LM Studio, GPT4All, KoboldCpp и llama-cpp-python. Она относится к семейству Mistral, имеет около 7 млрд параметров и ориентирована прежде всего на англоязычные сценарии; в метаданных также указана связь с обучением с подкреплением и моделями вознаграждения, но подробности исходной архитектуры и обучения в README не приведены. Репозиторий содержит варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. GGUF удобен для запуска на локальном оборудовании, включая системы с GPU-ускорением, однако более сильное квантование может снижать точность и качество ответов. Размер контекста, поддерживаемые модальности кроме текста, фактические показатели качества и ограничения исходной модели не указаны. В метаданных заявлена лицензия Apache-2.0, при этом присутствует тег CC-BY-NC-4.0, поэтому условия использования следует дополнительно проверить для исходной модели и конкретных файлов.

StructBERT — англоязычная предварительно обученная модель семейства BERT, разработанная командой AliceMind. Она расширяет предварительное обучение BERT двумя дополнительными задачами, которые учитывают порядок слов и структуру предложений. Эта копия не является официальной карточкой AliceMind. Модель построена на архитектуре BERT-large и содержит 433,9 млн параметров по метаданным репозитория; в README для исходной версии указано 340 млн. Контекст — до 512 токенов. Модель предназначена для заполнения замаскированных токенов и как базовая модель для последующего дообучения на задачах понимания английского текста; README приводит результаты на GLUE. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана. Карточка описывает также китайскую версию семейства, но данный репозиторий представляет английскую модель. Результаты бенчмарков относятся к указанным конфигурациям и не гарантируют качество на иных данных.

Summer — модель суммаризации текстов на тайском языке, разработанная KordAI и дообученная на базе facebook/mbart-large-50 с архитектурой MBartForConditionalGeneration. Она создаёт краткие связные выжимки, сохраняя ключевые сведения исходного материала, и рассчитана на обработку входов длиной до 1024 токенов. Модель подходит для краткого пересказа тайских новостных статей, отчётов, документов и академических работ, а также для подготовки дайджестов и извлечения основных сведений из длинных текстов. Лицензия — Apache-2.0. Качество может снижаться на узкоспециализированных технических, юридических и медицинских текстах. Длина резюме может отличаться от заданной, а факты и редкие имена требуют проверки; на неоднозначном или ироничном тексте модель также может ошибаться.

Swallow-MS-7b-instruct-v0.1 — диалоговая языковая модель TokyoTech-LLM, созданная на базе Mistral-7B-v0.1 с продолженным предварительным обучением и настройкой на выполнение инструкций. Это плотная модель MistralForCausalLM с 7,2 млрд параметров, работающая с текстом и контекстом до 4096 токенов. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках. Она подходит для генерации ответов, письма, ролевых диалогов, рассуждений, извлечения информации и базовых задач по STEM и программированию. Токенизатор с расширенным японским словарём эффективнее представляет японский текст, что может ускорять обработку. Для instruct-версии авторы рекомендуют указанный в карточке формат диалога; отклонение от него может ухудшить ответы. Авторы предупреждают, что модель находится на раннем этапе разработки и не настроена для надёжного следования человеческим намерениям и требованиям безопасности. Результаты также заметно различаются между задачами: в опубликованной оценке особенно слабыми были математика и программирование. Лицензия — Apache-2.0.

Symbiotic-8B — текстовая генеративная модель на базе Qwen3-8B, опубликованная Convergent Intelligence LLC. Карточка описывает её как гибрид трансформера и символьных модулей для диалога, логических рассуждений, генерации теорем и работы с памятью между ходами. Заявлены символьные процессоры, буфер на 2048 векторов и извлечение релевантных воспоминаний; метаданные указывают плотную архитектуру Qwen3ForCausalLM, 7,6 млрд параметров и контекст 40 960 токенов. Модель предназначена для генерации текста, логических и математических рассуждений, обучения с диалоговым контекстом и задач программирования. README предупреждает, что модель не настроена на выполнение инструкций, поэтому для диалоговых сценариев может потребоваться подбор промптов; память нужно предварительно заполнять. Для увеличения нагрузки на CPU может потребоваться учесть дополнительный буфер памяти. В репозитории указана лицензия AFL-3.0.

T3Q-LLM2-sft1.0-dpo1.0 — разговорная языковая модель семейства Llama, разработанная T3Q-LLM. Модель содержит 10,6 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors для Transformers. Метаданные указывают на контекст длиной до 4096 токенов. Модель предназначена для диалоговой генерации текста и ответов на запросы. В карточке приведены результаты оценки на корейских задачах понимания текста KoBEST BoolQ и COPA; это указывает на проверку модели на корейском языке, но карточка не сообщает полный список поддерживаемых языков. README автоматически сгенерирован и не содержит сведений о разработчике, лицензии или базовой модели, поэтому условия использования и происхождение дообучения установить нельзя.

T3Q-LLM2-sft1.2 — разговорная языковая модель на архитектуре Llama, опубликованная в формате safetensors и рассчитанная на генерацию текста. По метаданным, модель содержит 10,6 млрд параметров, использует библиотеку Transformers и имеет контекст до 4096 токенов. Карточка содержит результаты оценки на корейских наборах KoBEST BoolQ и COPA, что указывает на проверку понимания текста и рассуждений на корейском языке. Модель можно применять для диалогов, ответов на вопросы и генерации текста. README автоматически сгенерирован и не сообщает разработчика, базовую модель, лицензию, языки обучения или специальные ограничения; поэтому происхождение и условия распространения по карточке установить нельзя.

lcw99/t5-base-korean-text-summary — дообученная модель семейства T5, созданная на основе paust/pko-t5-base с использованием набора AIHUB «Summary and Report Generation Data». Модель предназначена для краткого пересказа длинных текстов на корейском языке. Она подходит для сокращения корейских документов и подготовки кратких сводок. Архитектура — T5ForConditionalGeneration, размер — 137,8 млн параметров. Доступны версии в форматах PyTorch, TensorFlow и Flax, включая safetensors. Разработчик указывает, что подробности применения, ограничений и оценки качества не приведены. Условия лицензирования в карточке не описаны.

retrieva-jp/t5-base-medium — японская предварительно обученная модель T5 v1.1, разработанная компанией Retrieva, Inc. Это Transformer-энкодер-декодер для преобразования текста в текст; в метаданных указано 123,8 млн параметров и формат PyTorch. Модель обучена на японской части mC4 и японской Википедии, поэтому предназначена для японскоязычных сценариев генерации и преобразования текста. Модель можно адаптировать для суммаризации, перефразирования, ответов на вопросы и других задач text-to-text. В T5 v1.1 используются активация GEGLU, отключённый dropout при предварительном обучении и отдельные слои эмбеддингов и классификатора. Лицензия CC-BY-SA 4.0 допускает коммерческое использование; разработчик просит предварительно связаться с ним. Карточка описывает модель как Base примерно на 220 млн параметров, тогда как метаданные каталога указывают 123,8 млн.

microsoft/tapex-large-finetuned-tabfact — модель Microsoft на архитектуре BART, дообученная на наборе TabFact для проверки утверждений по таблицам. Она принимает таблицу и текстовое утверждение и определяет, подтверждается ли оно данными таблицы; это подходит для проверки фактов и ответов на вопросы о табличных данных. Модель содержит 252,8 млн параметров, работает с текстовым представлением таблиц и имеет контекст до 1024 токенов. В карточке указан английский язык и лицензия MIT. Ограничение: модель ориентирована на табличную проверку утверждений, поэтому её не следует считать универсальной моделью для свободного диалога или работы с произвольными документами.

Это зеркальная копия файла Ternary Bonsai 2 27B Abliterated v2 с упаковкой PQ2_0 и MTP; автор репозитория сообщает, что веса побайтно совпадают с исходным файлом BoldingBuilds и не изменялись. Модель относится к семейству Bonsai 2, имеет 27 млрд параметров и предназначена для локальной генерации текста и диалогов. MTP используется для спекулятивного декодирования. Репозиторий также содержит результаты тестов скорости и максимального контекста на RTX 3060 с 12 ГБ видеопамяти; это результаты конкретной конфигурации, а не гарантия производительности на другом оборудовании. По README, для запуска этой упаковки нужен форк llama.cpp от PrismML: основная версия llama.cpp, Ollama и LM Studio не загружают PQ2_0. На общей RTX 3060 с тестовой конфигурацией был измерен безопасный контекст 26 624 токена и скорость около 56 токенов/с для коротких ответов. Качество именно этой версии в описанном бенчмарке не оценивалось. Модель аблитерирована: поведение отказов удалено, поэтому она может выполнять запросы, которые исходная модель отклонила бы. Метаданные указывают лицензию Apache-2.0. README описывает файл как зеркало исходного GGUF и направляет за сведениями о создании модели и оценках возможностей к карточке BoldingBuilds; здесь эти сведения не приводятся. Перед использованием в пользовательском продукте потребуется собственный уровень безопасности.

Ternary-Bonsai-2-27B-vllm — текстовая языковая модель, разработанная Fraser Price и неофициально перепакованная для vLLM на основе Bonsai 2 27B от Prism ML. Модель создана на базе Qwen3.8-27B от Alibaba Cloud и предназначена для генерации текста и запуска инференса через vLLM, включая сценарии со speculative decoding. Модель использует тернарные веса с 2-битным кодированием, FP16-групповыми масштабами g128 и Hadamard-преобразованием; таблица эмбеддингов хранится в BF16. Для speculative decoding применяется MTP-голова из Qwen3.8-27B, которая генерирует черновые токены, проверяемые основной моделью. В состав входит только текстовая модальность, без vision tower. Конкретные размеры контекста, языки и показатели производительности в README не указаны. Для работы требуется плагин prism_ternary для vLLM. Модель собрана и протестирована только на NVIDIA RTX PRO 6000 Blackwell, поэтому совместимость с другими GPU не подтверждена. Проект обозначен как находящийся в разработке; возможны нестабильность и несовместимые изменения. Распространяется по лицензии Apache 2.0.

bartowski/TheDrummer_Cydonia-24B-v4-GGUF — это набор GGUF-квантизаций текстогенеративной модели Cydonia-24B-v4, разработанной TheDrummer. Квантизации подготовлены bartowski с использованием llama.cpp версии b5934 и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через LM Studio, llama.cpp и другие приложения на базе llama.cpp. В набор входят варианты от исходных BF16-весов размером 47,15 ГБ до компактных низкобитных квантизаций. Доступны форматы BF16, Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3, IQ3 и Q2_K с размерами файлов примерно от 9,55 до 47,15 ГБ. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q5 и Q6; более компактные версии требуют меньше оперативной памяти, но дают более низкое качество. Формат GGUF упрощает локальный запуск, однако конкретные требования к памяти и производительность зависят от выбранной квантизации и оборудования. В README не указаны архитектура исходной модели, максимальная длина контекста, поддерживаемые языки, мультимодальные возможности и лицензия. Поэтому модель следует рассматривать как локальную текстовую LLM без подтверждённых мультимодальных функций; перед использованием в коммерческих или иных регулируемых сценариях необходимо отдельно проверить лицензию исходной модели Cydonia-24B-v4.

Это GGUF-квантизированная версия языковой модели GLM-Steam-106B-A12B-v1, разработанной TheDrummer и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Исходная модель имеет размер 106B параметров и обозначение A12B, однако архитектура, поддерживаемые языки, модальности и размер контекста в представленном README не указаны. Доступно множество вариантов квантизации GGUF: от Q8_0 размером 117,46 ГБ до Q2_K размером 46,10 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, а низкобитные версии требуют меньше оперативной памяти; наиболее рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_1, Q4_K_S и IQ4_XS. К сильным сторонам относятся широкий выбор квантизаций, возможность локального использования и применение imatrix-калибровки при создании файлов. Ограничениями являются очень большой объём модели, зависящий от выбранной квантизации, отсутствие в README формата промпта и подробных сведений о возможностях исходной модели. Лицензия в представленных данных не указана.

Thinkless-1.5B-RL-DeepScaleR — языковая модель на архитектуре Qwen2 с 1,5 млрд параметров, разработанная авторами проекта Thinkless. Она дообучена методом обучения с подкреплением на наборе agentica-org/DeepScaleR-Preview-Dataset и предназначена для генерации ответов с адаптивным выбором между кратким ответом и подробным рассуждением. Модель использует управляющие токены для выбора режима, а метод DeGRPO разделяет обучение выбору режима и точности ответа. В описанных авторами тестах на Minerva Algebra, MATH-500 и GSM8K модель сокращала использование длинных цепочек рассуждений на 50–90%, что может уменьшать вычислительные затраты. Репозиторий содержит веса Safetensors для Transformers, поддерживает диалоговый сценарий и имеет контекст до 32 768 токенов. Лицензия — Apache-2.0.

TildeOpen-30b-64k — базовая языковая модель компании Tilde.ai, разработанная при финансировании Европейской комиссии через EuroHPC JU Large AI Grand Challenge. Это плотный декодерный трансформер семейства Llama с 29,9 млрд параметров. Модель не проходила инструкционное дообучение и настройку под человеческие предпочтения, поэтому предназначена прежде всего для продолжения текста и адаптации под прикладные задачи. Модель поддерживает более 30 европейских языков, включая русский, английский, немецкий, французский, польский и украинский, а также программный код и XML с данными для перевода. Контекст расширен с 8 тыс. до 65 536 токенов методом YaRN; обучение включало многоязычные текстовые данные, FinePDFs и синтетические данные на основе KNOT. Модель подходит для генерации и дополнения длинных текстов, работы с многоязычными документами и экспериментов с контекстом большой длины. В карточке приведены результаты тестов на понимание прочитанного и грамматику для ряда языков. Для работы рекомендованы Transformers версии 5 и выше или vLLM; в карточке также описаны патчи для более старых версий Transformers. Модель распространяется по лицензии CC-BY-4.0. Поскольку она не настроена для следования инструкциям и не выровнена с предпочтениями человека, качество диалоговых ответов и безопасность вывода не гарантируются; заявленные тесты не означают одинакового качества во всех языках и задачах.

Tweety-7b-dutch-v24a — нидерландоязычная фундаментальная языковая модель, разработанная исследователями KU Leuven и UGent на архитектуре Mistral. Это плотная авторегрессионная модель на 7,2 млрд параметров с нидерландским токенизатором на 50 тысяч токенов и контекстом до 32 768 токенов по метаданным. Она обучена на очищенном нидерландском корпусе mC4 примерно на 8,5 млрд токенов; карточка указывает, что instruction fine-tuning не проводился. Модель предназначена для генерации и понимания текста на нидерландском языке, включая диалоговые сценарии, создание контента и языковой анализ. Репозиторий содержит веса safetensors, библиотека для работы — Transformers; также упомянуты сторонние веса GGUF. Лицензия Apache 2.0 разрешает широкое использование. Модель ориентирована на нидерландский язык, поэтому её пригодность для других языков не следует предполагать; отсутствие instruction fine-tuning может ограничивать выполнение инструкций по сравнению с чат-моделями, дообученными для следования им.

PrimeQA/tydiqa-boolean-answer-classifier — модель классификации ответов на вопросы, предполагающие ответ «да» или «нет», разработанная проектом PrimeQA на основе XLM-RoBERTa. Она принимает вопрос с ответом «да/нет» и отрывок текста, а затем присваивает метку yes, no или no-answer. Модель представляет собой XLM-RoBERTa Large с архитектурой классификатора последовательностей, содержит около 658,7 млн параметров и имеет контекстное окно 514 токенов. Она дообучена на вопросах с ответами «да/нет» из TyDiQA и BoolQ-X и предназначена для использования в системах понимания прочитанного и ответов на вопросы, в том числе в составе PrimeQA. Модель может быть полезна для определения ответа на вопрос по предоставленному отрывку, включая выявление случаев, когда отрывок не содержит ответа. В README отмечена возможность наследования смещений исходной XLM-RoBERTa Large. Лицензия — Apache-2.0.

VisualPRM-8B-v1.1 — мультимодальная модель оценки промежуточных шагов рассуждения (Process Reward Model) от OpenGVLab, содержащая 8 млрд параметров. Она предназначена для оценки хода решения задач по тексту и изображениям и усиления рассуждений мультимодальных языковых моделей при отборе лучших ответов по схеме Best-of-N. Модель обучена на данных VisualPRM400K и рассчитана на применение как критик для других MLLM. В README сообщается об улучшении результатов на мультимодальных бенчмарках; версия v1.1 также повышает способности к рассуждению InternVL3 при использовании в роли критика. Архитектура основана на InternVL2.5-8B; в метаданных также отмечены слияние и дообучение. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — MIT. Модель подходит для исследовательских и прикладных экспериментов с оценкой пошаговых мультимодальных рассуждений и выбором ответов. Конкретная длина контекста и перечень поддерживаемых языков не приводятся; метаданные характеризуют карточку как мультиязычную.

WebGLM-2B — модель-генератор на базе GLM с 2,5 млрд параметров, разработанная командой Zhipu AI для системы ответов на вопросы с использованием веб-поиска и извлечения информации. Эта карточка содержит компонент Bootstrap Generator: он формирует ответы на вопросы, используя найденные веб-материалы для повышения их точности и полезности. Модель предназначена для сценариев веб-дополненного поиска и ответов на вопросы. В полной системе WebGLM также предусмотрены модуль извлечения релевантных веб-страниц и оценщик ответов с учётом предпочтений людей; этот репозиторий содержит только генератор. В метаданных указаны архитектура GLM, формат PyTorch и английский язык. Сведения о лицензии и длине контекста в предоставленных источниках отсутствуют.

featherless-ai-quants/xkbang-FineLlama-3.1-8B-GGUF — набор GGUF-квантизаций модели xkbang/FineLlama-3.1-8B, подготовленный и опубликованный командой Featherless AI Quants. Модель относится к классу генеративных текстовых моделей и предназначена для задач text-generation, включая локальный или ресурсоэффективный запуск совместимых Llama-моделей. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Заявленный размер базовой модели — 8B параметров; размеры файлов варьируются примерно от 3 до 8,1 ГБ в зависимости от уровня квантизации. Более компактные варианты требуют меньше памяти, но могут сильнее снижать качество, тогда как Q6_K и Q8_0 ориентированы на лучшее сохранение исходных характеристик при повышенных требованиях к ресурсам. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура, результаты тестирования, системные требования и лицензия. Поэтому сильные стороны модели можно связывать главным образом с наличием нескольких вариантов GGUF для выбора компромисса между качеством и потреблением памяти; ограничения и условия коммерческого или иного использования требуют проверки в документации базовой модели xkbang/FineLlama-3.1-8B и соответствующих файлов лицензии.

xlm-roberta-longformer-large-16384 — многоязычная модель с архитектурой Longformer, созданная на основе весов XLM-RoBERTa без дополнительного предварительного обучения. Версия large содержит 658,7 млн параметров, 24 слоя и скрытый размер 1024; механизм внимания рассчитан на обработку последовательностей длиной до 16 384 токенов. Модель предназначена для извлечения признаков из длинных текстов и последующего дообучения под прикладную задачу. Её можно использовать как основу для классификации, поиска и других задач понимания текста, требующих контекста длиннее стандартного окна трансформера. Поддерживается широкий набор языков, в частности английский и другие европейские, азиатские и африканские языки; полный перечень языковых тегов включает 50 языков. Репозиторий содержит формат TensorFlow. Лицензия — MIT. Карточка не сообщает результатов оценки качества и не описывает готовые прикладные сценарии: модель следует дообучить для конкретной задачи. Большое окно контекста позволяет учитывать протяжённый текст, но само по себе не гарантирует качество на конкретном языке или задаче.

Yeet 51b 200k — языковая модель MarsupialAI для генерации текста, созданная слиянием в rotating-stack конфигурации трёх дообученных моделей Yi-34B-200K. В репозитории указана архитектура LlamaForCausalLM; метаданные сообщают о 50,7 млрд параметров и контексте до 200 000 токенов. Модель предназначена для диалогов, ролевых игр и написания историй, в том числе с длинным контекстом. Автор сообщает о качестве, сопоставимом со многими моделями на 70 млрд параметров в этих сценариях, но это субъективная оценка. Модель работает с форматом подсказок Alpaca; автор отмечает, что другие форматы могут работать в некоторой степени. Для GGUF Q4_K_S заявлена возможность запуска на двух GPU с 24 ГБ памяти каждый при контексте 32 000 токенов. Ограничение — низкая скорость генерации, особенно при длинном контексте. Модель не предназначена специально для NSFW, но может создавать нежелательный контент; её фактическим утверждениям не следует доверять без проверки. В карточке указана лицензия `other`, конкретные условия использования не описаны.

GLM-4.5-Air-GGUF — это набор квантизированных версий языковой модели GLM-4.5-Air, разработанной zai-org и преобразованной в формат GGUF пользователем bartowski. Квантизация выполнена с использованием llama.cpp версии b6085 и метода imatrix с отдельным датасетом. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В README не указаны архитектура исходной модели, количество параметров, поддерживаемые языки, размер контекста или дополнительные модальности, поэтому эти характеристики нельзя подтвердить. Доступны варианты квантизации от Q8_0 до IQ1_M с размером файлов примерно от 39,62 до 117,46 ГБ; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и ряд других вариантов отмечены как рекомендуемые. Более компактные варианты экономят память, но снижают качество, а Q2 и IQ1-варианты описаны как низкокачественные или очень низкокачественные. Для модели не найден формат промпта, его следует уточнять на странице исходной модели. Лицензия в README не указана.

bartowski/zai-org_GLM-4.6-GGUF — набор GGUF-квантизаций базовой языковой модели GLM-4.6, разработанной zai-org. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix, поэтому модель предназначена для локального запуска и генерации текста в приложениях на базе llama.cpp, включая LM Studio. Доступны варианты с разными уровнями квантования — от Q8_0 до IQ1_M — и размером файлов примерно от 79,56 до 379,32 ГБ. Более крупные варианты обеспечивают более высокое качество, тогда как младшие требуют меньше оперативной памяти, но заметно уступают по качеству; рекомендуемыми названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Модель подходит для локальной текстовой генерации при наличии совместимого оборудования и программного обеспечения. Основные ограничения — очень большой размер файлов, зависимость от llama.cpp-совместимого окружения и снижение качества при низких уровнях квантования. Формат лицензии в README не указан.