I.2Синтез, понимание и проверка знаний

Bielik-11B-v2.0-Instruct — генеративная языковая модель с 11 млрд параметров, разработанная SpeakLeash совместно с вычислительным центром ACK Cyfronet AGH. Это дообученная в формате инструкций версия Bielik-11B-v2 на архитектуре Mistral с причинным декодером; модель предназначена для диалогов и выполнения текстовых инструкций. Она обучалась преимущественно на польских текстах и инструкциях и рассчитана прежде всего на польский язык, при этом в карточке также упоминается оценка задач на английском. Контекст составляет до 32 768 токенов, формат весов — Safetensors, для общения используется шаблон ChatML. Модель подходит для ответов на вопросы, диалогового взаимодействия и выполнения разнообразных языковых задач на польском языке. Лицензия — Apache 2.0 с дополнительными условиями использования, приведёнными в карточке. Разработчики отмечают, что это демонстрационная версия instruct-настройки базовой модели; у неё нет механизмов модерации, ответы могут содержать фактические ошибки, предвзятость или оскорбительный контент.

Bonsai 2 27B Ternary CRACK GGUF — языковая и мультимодальная модель, созданная исследовательской командой dealignai на основе тернарной версии Bonsai от PrismML и Qwen3.8-27B от Qwen. Из модели на уровне весов удалены механизмы отказа, при этом заявлено сохранение базовых возможностей, режимов рассуждения, использования инструментов и многоходового диалога. Модель предназначена для генерации текста, задач с рассуждением, работы с инструментами и сценариев, где требуется обработка изображений; конкретные поддерживаемые языки и размер контекстного окна в README не указаны. Модель использует гибридную архитектуру Attention и SSM на базе GatedDeltaNet: 64 блока, размер скрытого состояния 5120, отдельная vision tower. Применяется тернарное квантование PrismML PQ2_0 с эффективностью 2,13 бит на вес и размером файла около 7,21 ГБ. Доступны режимы рассуждения off, low и xhigh; для работы с изображениями используются отдельные mmproj-файлы в форматах BF16 или Q8_0. Запуск поддерживается через форк llama.cpp от PrismML на CPU, CUDA и Metal, что позволяет использовать модель на ноутбуке или одной GPU. Сильными сторонами являются малый размер для модели класса 27B, поддержка vision, рассуждений и инструментов, а также сохранение общей производительности относительно базовой тернарной версии: на указанной выборке MMLU разница составила −0,62 процентного пункта. Ограничения включают крайне низкую точность тернарного квантования, зависимость от специального форка llama.cpp и совместимых файлов проекторов, а также отсутствие встроенных механизмов отказа, что делает модель неподходящей для сценариев, требующих строгих защитных ограничений. README также предупреждает об исправлении прежней ошибки зацикливания токенов в режимах low и xhigh; рекомендуется использовать сборку, опубликованную после 18 сентября 2026 года. Лицензия — Apache-2.0.

JANGQ-AI представила Bonsai-27b-1bit-JANG — мультимодальную модель на архитектуре Qwen3.5 для диалога с текстом и изображениями. Это плотная модель условной генерации с 27 млрд параметров, полученная дообучением prism-ml/Bonsai-27B-unpacked и преобразованием весов в профиль JANG affine с преимущественно 1-битным хранением текстовых матриц. Поддерживаются чат-шаблон с режимом thinking и интерфейсом вызова инструментов, а также обработка изображений и видео. Модель предназначена для ответов на вопросы по изображениям, диалоговых сценариев и использования инструментов. Текстовые матрицы хранятся в 1-битном формате с группами размера 128; часть визуальных линейных слоёв использует 4-битное хранение, а несовместимые тензоры и некоторые параметры остаются в float16. Для запуска требуется сборка vMLX с поддержкой дискретного JANG-affine и смешанной точности для зрения; стандартный mlx_lm эту схему не поддерживает. В README указана проверка на Apple M5 Max с 128 ГБ объединённой памяти. Лицензия — Apache-2.0.

Borealis 2 26B-A4B Preview — экспериментальная инструкционно-настроенная модель на 26 млрд параметров с 4 млрд активных параметров, разработанная NbAiLab. Она основана на google/gemma-4-26B-A4B-it: модель продолжительно предобучали на смешанных данных Aurora, а затем дообучили на текстовых инструкциях набора NbAiLab/aurora-sft-2606. Выпуск представлен в формате safetensors для Transformers. Модель предназначена прежде всего для задач ассистента на норвежском языке: составления и редактирования текстов, суммаризации, ответов на вопросы и простых рассуждений. Также её можно использовать для оценки качества письменного норвежского языка Bokmål и Nynorsk, а также английского. Архитектура Gemma 4 поддерживает диалоговую работу с текстом и изображениями; в этой версии README описывает дообучение именно на текстовых инструкциях. Данные Aurora имеют срез знаний на 1 января 2025 года. Это предварительная версия для раннего тестирования: качество может быть нестабильным, а ответы — содержать ошибки или галлюцинации. Модель не прошла полное выравнивание по безопасности и может выдавать вредный, предвзятый или оскорбительный контент; её не рекомендуют для критически важных сценариев. В метаданных указана лицензия other, поэтому условия использования следует сверять с карточкой модели и материалами разработчика.

Borealis 2 E2B Preview — экспериментальная чат-модель с инструкционной настройкой от NbAiLab. Это плотная модель Gemma 4 примерно с 2 млрд параметров, принимающая текст и изображения и генерирующая текст. Опубликована в формате Safetensors для Transformers; карточка указывает лицензию other. Модель предназначена для раннего тестирования ассистентских задач на норвежском языке: составления и редактирования текстов, суммаризации, ответов на вопросы и несложных рассуждений. Также её можно использовать для оценки качества Bokmål, Nynorsk и английского языка. Модель продолжительно обучали на смешанных данных Aurora, а затем дообучили три эпохи на текстовых инструкциях Aurora SFT; базовая модель — NbAiLab/nb-gpt-gemma4-e2b-instruct-aurora-2604-pre. Это предварительная версия, и качество ответов может быть нестабильным, а сами ответы — содержать галлюцинации. Модель не прошла полную настройку безопасности, поэтому способна выдавать вредный, предвзятый или неуместный контент; её не следует применять в критически важных сценариях без собственных мер защиты.

Это GGUF-квантизированная версия модели ThinkingCap-Qwen3.6-27B, разработанной bottlecapai и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix-квантизации. Модель относится к классу image-text-to-text, то есть предназначена для задач преобразования изображений и текста в текстовый ответ. Указанный размер базовой модели — 27B параметров; доступны варианты квантизации от Q3 до Q8 с размером файлов примерно от 14,61 до 29,12 ГБ. Модель ориентирована на генерацию текста, мультимодальные сценарии с изображениями, а также задачи, требующие рассуждений и более эффективного использования токенов. Для запуска поддерживаются llama.cpp, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. В README приведён формат промпта с секцией рассуждений <think>, что указывает на использование режима пошагового мышления. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска и сохранение высокого качества в вариантах Q5–Q8; варианты Q6_K и Q6_K_L обозначены как близкие к исходному качеству. Более компактные варианты требуют меньше оперативной памяти, но могут снижать качество. Языки, размер контекстного окна, точные архитектурные особенности, требования к оборудованию и результаты оценки в README не указаны. Модель распространяется по лицензии Apache-2.0.

calme-2.1-llama3-70b-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, подготовленный и опубликованный MaziyarPanahi на основе модели calme-2.1-llama3-70b того же разработчика. GGUF предназначен для локального запуска и совместим с llama.cpp и рядом клиентских приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Модель относится к семейству Llama 3 и имеет размер 70B, однако в README не указаны точные архитектурные параметры, поддерживаемые языки или размер контекста. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшими требованиями к памяти и потенциальным снижением качества либо более высоким качеством и большими ресурсами. Модель ориентирована на задачи генерации текста и может использоваться через локальные графические интерфейсы, командную строку, Python-библиотеки и OpenAI-совместимый сервер. Основные преимущества — широкий выбор уровней квантования, поддержка GPU-ускорения в совместимых инструментах и возможность локального развертывания. Ограничения включают необходимость самостоятельно подобрать подходящий квантованный файл и обеспечить достаточные вычислительные ресурсы; сведения о качестве, результатах тестирования, мультимодальности и лицензии в README отсутствуют. Информация о лицензии не предоставлена.

CalmexperimentT3qm7-7B — автоматически созданная Maxime Labonne объединённая языковая модель на архитектуре Mistral. В слиянии использованы mistralai/Mistral-7B-v0.1, allknowingroger/CalmExperiment-7B-slerp и nlpguy/T3QM7; базовой моделью в конфигурации указана mistralai/Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, представлена в формате safetensors и использует точность bfloat16. Модель предназначена для генерации текста. Контекст составляет до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или дополнительные возможности.

almanach/camembertv2-base-pawsx — франкоязычная модель классификации текста на архитектуре RoBERTa, разработанная Виссамом Антуном из Almanach, Inria-Paris. Она дообучена на FLUE-PAWS-X для выявления парафраз: модель определяет, выражают ли два предложения одинаковый смысл. В карточке указана точность 0,92254 на этом наборе данных. Модель содержит 138,4 млн параметров, принимает текст и выдаёт метку класса. Заявленный язык — французский; максимальный контекст составляет 1025 токенов. Модель распространяется по лицензии MIT. Результаты могут зависеть от характеристик обучающих данных, а качество на других наборах данных и задачах может быть ниже.

CatunaLaserPi — объединённая модель для генерации текста, созданная Eric111 с помощью mergekit. Она объединяет Eric111/caTUNABeagle и BryanSwk/LaserPipe-7B-SLERP методом SLERP; в конфигурации базовой моделью указана Eric111/caTUNABeagle. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров, принимает текстовый ввод и генерирует текст. Родной контекст — до 32 768 токенов. Модель подходит для диалогов и других задач генерации текста. Карточка не описывает специальные предметные области или отдельные возможности помимо генерации текста. Распространяется по лицензии CC BY-NC 4.0, которая запрещает коммерческое использование.

Это GGUF-квантизация модели GLM-4.5-Air-REAP-82B-A12B, разработанной Cerebras и подготовленной пользователем bartowski. Модель предназначена для задач генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты квантования Q8_0, Q6_K, Q5_K, Q4_K, IQ4 и Q3_K/IQ3 с размером файлов примерно от 39 до 90 ГБ. Обозначение модели указывает на конфигурацию 82B-A12B, однако подробности архитектуры, поддерживаемые языки, модальности и размер контекста в предоставленной карточке не указаны. Квантизация выполнена с использованием imatrix, что направлено на сохранение качества при уменьшении размера модели. Сильная сторона этой версии — широкий выбор уровней квантования для баланса между качеством, требованиями к памяти и скоростью инференса; наиболее рекомендуемыми указаны варианты Q6_K, Q5_K, Q4_K и IQ4_XS. Ограничения включают очень высокие требования к оперативной или видеопамяти даже для компактных вариантов, а также отсутствие указанного chat template: в README отмечено, что используемый шаблон может быть неточным и требует проверки по оригинальной карточке модели. Лицензия в предоставленных данных не указана.

code_bagel_llama-3-8b-v1.1 — дообученная текстовая модель, разработанная jlancaster36 на базе mattshumer/Llama-3-8B-16K. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 16 000 токенов, предназначенная для генерации текста. Модель обучалась с использованием Unsloth и библиотеки TRL; карточка не раскрывает конкретную специализацию дообучения, поэтому её возможности следует рассматривать как генерацию текста общего назначения. Поддерживаемый язык карточки — английский. Модель подходит для создания и продолжения текстов, а также для ответов в текстовых сценариях, где требуется обработка длинного контекста. Она распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или более подробных сведений о поведении модели.

Compare2Score — модель семейства mPLUG-Owl2, опубликованная пользователем q-future. Карточка показывает загрузку через AutoModelForCausalLM и предназначение для оценки сравнения; для извлечения признаков доступен pipeline feature-extraction. Модель содержит 6,6 млрд параметров, работает с библиотеками Transformers и PyTorch и имеет нативный контекст длиной 2048 токенов. Модель может быть полезна для извлечения признаков и генерации текста в сценариях сравнения и оценивания. README не описывает подробно формат входа, языки, метод обучения или результаты оценки качества. Репозиторий распространяется по лицензии MIT.

DarkSapling-V2-Ultra-Quality-7B-GGUF — текстовая генеративная модель, разработанная DavidAU на основе Dark Sapling V2 7B, созданной TeeZee. Модель предназначена для следования инструкциям, рассуждений, творческого письма, сторителлинга, ролевого взаимодействия и генерации художественных текстов с нюансами и эмоциональной выразительностью. Модель имеет размер 7B параметров, распространяется в формате GGUF и поддерживает контекст до 32 000 токенов. В README указана поддержка английского языка и текстовая модальность. Доступны различные квантизированные версии; автор утверждает, что ремастеринг и 32-bit upscale повышают качество, особенно в вариантах Q4KM, Q6 и Q8, однако различия между квантизациями могут быть заметны прежде всего в творческих сценариях и задачах без однозначного ответа. Сильными сторонами заявлены улучшенное следование инструкциям, рассуждение, глубина, нюансированность и эмоциональность, а также более эффективное использование контекста. Ограничения включают зависимость качества от выбранной квантизации и оборудования, а также отсутствие подробных независимых оценок в представленном README. Модель распространяется по лицензии Apache-2.0.

DatedGPT-2021-Instruct — англоязычная инструктивная чат-модель семейства DatedGPT, разработчик которой в карточке не указан. Это вариант с временным срезом знаний до 2021 года: модель обучена на данных, доступных к этой дате, и предназначена для прогнозирования без смещения из-за доступа к будущей информации и анализа с учётом временного среза. Модель основана на архитектуре LlamaForCausalLM, содержит около 1,3 млрд параметров и поддерживает контекст до 2048 токенов. Модель принимает текстовые инструкции и диалоговые запросы и генерирует текстовые ответы. Лицензия в доступных данных не указана. Знания ограничены данными до 2021 года; модель не проходила RLHF или настройку безопасности, поэтому может выдавать уверенно сформулированные, но неверные ответы.

DatedGPT-2023-Instruct — диалоговая инструктивная языковая модель семейства DatedGPT, представленная разработчиком под идентификатором datedgpt/datedgpt-2023-instruct. Это дообученная для следования инструкциям версия базовой модели datedgpt/datedgpt-2023-base на архитектуре LlamaForCausalLM с примерно 1,3 млрд параметров и контекстом 2048 токенов. Модель обучена только на данных, доступных до 2023 года, чтобы поддерживать анализ и прогнозирование без утечки сведений из будущего относительно этого временного среза. Модель предназначена для генерации текста в чате и выполнения инструкций на английском языке. Её можно применять для вопросов и ответов, диалогов и анализа, где важно ограничить знания модели временным срезом 2023 года. Репозиторий содержит веса в формате safetensors и шаблон чата в стиле Llama 2. Лицензия в предоставленных данных не указана. Модель не проходила RLHF или настройку безопасности; её знания ограничены данными до 2023 года, а ответы могут быть уверенно ошибочными.

microsoft/deberta-v2-xxlarge — англоязычная базовая модель Microsoft семейства DeBERTa V2 для задач понимания естественного языка. Это плотный трансформер с 48 слоями и размером скрытого представления 1536; в метаданных указано 2 млрд параметров, а в README — 1,5 млрд. Модель использует раздельное внимание (disentangled attention) и улучшенный декодер маскирования. Контекст — до 512 токенов. Основной сценарий применения — восстановление замаскированных токенов; базовую модель также можно дообучать для классификации текста и ответов на вопросы. В README приведены результаты дообучения на SQuAD и задачах GLUE, но они относятся к вариантам и настройкам fine-tuning, а не гарантируют такие же показатели у исходного чекпойнта. Для запуска крупной версии README рекомендует DeepSpeed или sharded DDP для экономии памяти и ускорения. Лицензия — MIT.

Карточка модели nehayadav941244/deberta-v3-large на Hugging Face совпадает с карточкой microsoft/deberta-v3-large, поэтому описание составлено по ней. microsoft/deberta-v3-large — англоязычная модель понимания текста от Microsoft на архитектуре DeBERTa V3. Она использует раздельное представление содержимого и позиций в механизме внимания, улучшенный декодер маски и предобучение в стиле ELECTRA с разделением градиентов в эмбеддингах. Модель содержит 24 слоя, скрытый размер 1024 и словарь из 128 тысяч токенов; всего в репозитории указано 533,8 млн параметров. Максимальная длина контекста — 512 токенов. Основная задача модели — предсказание замаскированных токенов в английском тексте. Её также можно дообучать для задач понимания естественного языка, например классификации текста и ответов на вопросы; README приводит результаты на SQuAD 2.0 и MNLI. Доступны веса в форматах PyTorch и TensorFlow. Модель выпущена под лицензией MIT. Она предназначена для обработки текста и не генерирует свободный текст как диалоговая языковая модель; качество зависит от конкретной задачи и дообучения.

microsoft/deberta-xlarge-mnli — разработанная Microsoft модель DeBERTa XLarge, дообученная на задаче MNLI. DeBERTa использует disentangled attention и улучшенный декодер маскирования; для этой версии README указывает размер около 750 млн параметров, а метаданные — 856,8 млн. Модель предназначена для классификации текстовых последовательностей, в частности для определения отношений между посылкой и гипотезой и переноса на другие задачи понимания естественного языка. Модель принимает текст на английском языке, имеет контекст до 512 токенов и доступна в форматах PyTorch и TensorFlow. MNLI-дообучение может служить отправной точкой для тонкой настройки на задачи NLU; карточка приводит результаты на бенчмарках, но не описывает их как гарантию качества для произвольных данных. Лицензия — MIT.

Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-109B-MoE, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Архитектура модели — Mixture of Experts (MoE), общий заявленный размер — 109B параметров. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, с размером файлов примерно от 47,62 до 114,52 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp версии b6014. Более высокие варианты обеспечивают лучшее сохранение качества, а менее точные требуют меньше оперативной памяти; среди рекомендуемых указаны Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Модель подходит для локального текстового инференса при наличии значительных вычислительных ресурсов и объёма памяти, соответствующего выбранному варианту квантизации. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности, точные характеристики базовой архитектуры, лицензия и формальные ограничения использования. Шаблон чата не задан; предложенный формат является значением по умолчанию и может быть некорректным, поэтому его следует сверять с исходной карточкой модели.

DeepSeek-R1-Distill-Qwen-32B Uncensored — 32-миллиардная плотная языковая модель, подготовленная Richard Young на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-32B. Это декодерный трансформер семейства Qwen2 для генерации текста и диалогов с пошаговыми рассуждениями. В карточке заявлена техника abliteration — удаление направления отказа модели; автор описывает вариант как uncensored. Модель предназначена для задач, где нужны развёрнутые рассуждения, в том числе для исследований рассуждений и выравнивания, обучения и творческих сценариев. Метаданные указывают контекст до 131 072 токенов; README заявляет 32 768 токенов. Поддерживаемый язык по карточке — английский. Модель принимает текст и выдаёт текст. Англоязычные метаданные указывают лицензию «other», без уточнения конкретных условий, поэтому перед использованием следует проверить лицензию репозитория и базовой модели. Заявленное удаление отказов означает, что модель может выдавать ответы без защитных ограничений исходной модели; качество и поведение в отдельных задачах отдельно не подтверждены.

DeepSeek-V4-Flash-0731-2.4bit-mixed — это смешанно-точечная MLX-квантизованная версия модели DeepSeek-V4-Flash-0731, разработанная сообществом mlx-community на основе чекпойнта deepseek-ai. Модель предназначена для генерации текста, диалоговых сценариев и задач рассуждения; формат ориентирован на запуск на компьютерах Apple Silicon через oMLX. Модель имеет 284 млрд параметров, около 304 млрд с учётом блоков MTP и примерно 13,8 млрд активных параметров на токен. Архитектура включает 43 слоя, MoE с 256 маршрутизируемыми и одним общим экспертом, выбором top-6, MLA, разреженный индексатор внимания, hyper-connections с Sinkhorn и YaRN с заявленным контекстом до 1 млн токенов. Все три блока DSpark MTP сохранены. Эффективная точность составляет 2,44 бита на вес, размер на диске — 92,8 ГБ. Основные языки явно не указаны; в проверке генерация была связной на английском. Сильные стороны — существенно меньший размер по сравнению с исходным форматом, сохранение MTP, умеренное падение скорости генерации при увеличении контекста и низкий рост потребления памяти благодаря MLA. Ограничения — высокая потребность в памяти: для запуска рекомендуется Mac с 128 ГБ, а предварительная обработка длинных запросов может быть очень медленной. По тесту MMLU-Pro результат составил 0,573 против 0,647 у API-версии в BF16, однако оценка ограничена одной выборкой и не заменяет проверку на целевых задачах. Требуется oMLX версии 0.5.7 или новее; mlx-lm напрямую эту архитектуру не поддерживает. Лицензия — MIT.

KeinNiemand/DeepSeek-V4-Flash-0731-IK_GGUF — набор смешанных по точности GGUF-квантизаций базовой модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Квантизации созданы с использованием ik_llama.cpp и матрицы важности; модель предназначена для локального запуска задач генерации текста с уменьшенным потреблением памяти по сравнению с исходной версией. Варианты представлены в диапазоне примерно от 65,4 до 149,2 ГБ, со средней точностью от 1,841 до 4,200 бит на вес. Архитектура исходной модели включает mixture-of-experts, а маршрутизируемые тензоры MXFP4 и тензоры, полученные из FP8, квантизированы с учётом их исходного представления. Другие характеристики исходной модели, включая число параметров, поддерживаемые языки и точный размер контекста, в README не указаны; отмечено лишь наличие очень большого контекстного окна. Доступны варианты XS_IQ1_KT, IQ1_KT, IQ2_KT, IQ2_KS, IQ2_KL, IQ3_KS, IQ3_K и IQ4_KSS. Более крупные варианты обычно обеспечивают лучшее сохранение качества; среди протестированных IQ2_KL показал наилучшие значения perplexity, mean KLD и согласия top-1. IQ2_KT близок по размеру к IQ2_KS, но медленнее на CPU и при гибридном CPU/GPU-запуске. IQ3_KS, IQ3_K и IQ4_KSS в приведённых тестах не оценивались. Файлы требуют свежей сборки ik_llama.cpp с поддержкой специфичных типов тензоров IK IQK и IQT. Стандартные llama.cpp и многие приложения, включая некоторые версии LM Studio, KoboldCpp и text-generation-webui, могут их не загрузить. Необходимо явно задавать размер контекста и оставлять дополнительную память для KV-кэша и служебных буферов. Распространение указано под лицензией MIT.

sshleifer/distilbart-xsum-1-1 — компактная модель суммаризации на архитектуре BART, представленная в семействе DistilBART. Она предназначена для создания краткого пересказа по входному тексту, в частности в сценариях, связанных с датасетом XSum. Модель содержит 68,2 млн параметров, принимает текст с контекстом до 1024 токенов и генерирует текстовое резюме. Модель рассчитана на английский язык. Для загрузки используется класс BartForConditionalGeneration; доступны веса PyTorch, TensorFlow и Flax. Репозиторий распространяется по лицензии Apache-2.0. Доступные материалы подтверждают назначение и архитектуру, но не приводят отдельные метрики именно для варианта 1-1, поэтому его качество и скорость по приведённой таблице оценить нельзя.

DOCTOR — диалоговая модель рассуждений, разработанная LangAGI-Lab. По истории диалога она генерирует знания здравого смысла в виде цепочки рассуждений и использует для этого многошаговый подход. Модель основана на архитектуре OPT и содержит 1,7 млрд параметров; она предназначена для генерации текста с контекстом до 2048 токенов. Модель обучена на наборе данных DLI-Lab/DONUT. Её можно применять для извлечения неявных смысловых связей из диалога и построения многошаговых объяснений, помогающих анализировать контекст беседы. Репозиторий содержит веса PyTorch в формате safetensors. Лицензия — Apache-2.0.

amirMohammadi/Dorna-Llama3-8B-Instruct-Quantized4Bit — 4-битная квантованная версия Dorna-Llama3-8B-Instruct, модели с архитектурой decoder-only на основе Llama 3. Модель разработана для диалоговой генерации текста и специально дообучена на персидских данных. В репозитории указаны 7,5 млрд параметров, контекст до 8192 токенов и поддержка чата; Flash Attention 2 ускоряет инференс. Квантование снижает требования к памяти: автор сообщает о запуске на GPU T4 с менее чем 15 ГБ видеопамяти через Transformers. Модель подходит для вопросов и ответов, генерации кода, математики, перефразирования и суммаризации. Приведённые в README оценки относятся к неквантованной версии Dorna-Llama3-8B-Instruct, поэтому напрямую не подтверждают качество этой квантованной сборки. Лицензия — llama3.

eren23/dpo-binarized-NeuralTrix-7B — языковая модель для генерации текста, дообученная методом DPO на основе CultriX/NeuralTrix-7B-dpo с использованием пар предпочтений из набора argilla/OpenHermes2.5-dpo-binarized-alpha. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; опубликована в формате safetensors, лицензия — Apache-2.0. Модель предназначена для диалоговой генерации текста и общих языковых задач. В карточке приведены результаты оценивания на бенчмарках рассуждений AI2 Reasoning Challenge и HellaSwag. Заявленный контекст — до 32 768 токенов; в метаданных указан английский язык. Данные не раскрывают подробности о качестве в практических сценариях и ограничениях безопасности.

Einstein-v5-v0.2-7B — языковая модель Weyaxi для диалогов и следования инструкциям, созданная полным дообучением Mistral-7B-v0.2-hf на разнообразных наборах данных. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Для диалогов предусмотрен шаблон ChatML. Модель ориентирована на общие запросы, а также вопросы и рассуждения по физике, химии, биологии, математике и другим STEM-темам. В README указаны результаты Open LLM Leaderboard, включая средний балл 65,65 и 60,92 на AI2 Reasoning Challenge, однако полная таблица результатов недоступна в предоставленной карточке. Автор сообщает, что модель устарела из-за ошибки sliding window в конфигурации базовой модели; проблема исправлена в базовой модели, а последующие версии серии Einstein должны использовать корректную конфигурацию. Репозиторий содержит веса Safetensors. Лицензия в метаданных обозначена как other, без уточнения условий.

Legion-V2.1-LLaMa-70B-Elarablated-v0.8-hf-GGUF — это квантизированная GGUF-версия языковой модели Legion-V2.1-LLaMa-70B-Elarablated-v0.8-hf, разработанной e-n-v-y и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В основе лежит модель семейства LLaMa с заявленным размером 70B параметров. Доступны варианты квантизации от Q8_0 до низкобитных Q3 и IQ3, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Рекомендуемыми указаны варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; размеры доступных файлов составляют примерно от 31,94 до 74,98 ГБ. Для работы используется форматированный шаблон промпта LLaMA 3 с системными, пользовательскими и ассистентскими сообщениями. Сильной стороной модели является возможность локального запуска и широкий выбор квантизаций, включая варианты, оптимизированные для ограниченного объёма памяти и некоторых CPU-платформ. Ограничения включают значительные требования к дисковому пространству и памяти, особенно для высококачественных вариантов; при более сильной квантизации качество снижается. Сведения о поддерживаемых языках, размере контекстного окна, мультимодальности и специализированных сценариях в README не указаны. Лицензия обозначена как llama3.3.

EverythingLM-13b-V3-16k — универсальная текстовая модель для генерации ответов, разработанная на основе Llama 2 и обученная на датасете EverythingLM-V3. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и поддерживает контекст до 16 384 токенов; в карточке указана библиотека PyTorch и формат весов PyTorch. Модель предназначена для диалога и генерации подробных ответов, творческих историй и ролевых сценариев. Разработчик отмечает понимание запросов и автоматически запускаемые рассуждения CoT. Для диалога приведён формат Alpaca-chat с маркерами USER и ASSISTANT. Карточка описывает модель как uncensored, но отмечает, что базовая модель может сопротивляться некоторым запросам и иногда требует подбора формулировок. Это дообучение Llama 2 на EverythingLM-V3; базовая модель использует лицензию Llama 2. Модель опубликована в сентябре 2023 года. Заявленные качества и поведение основаны на описании разработчика и не сопровождаются количественными результатами оценки.