II.1Анализ требований и архитектура ПО

LuffyTheFox/Ornith1.5-35B-A3B-Genesis-Hermes-GGUF — экспериментальная мультимодальная модель в формате GGUF, созданная на основе Ornith-1.5-35B-A3B от ornith-ai. В её основу также перенесены данные из Hermes-файнтюна DJLougen/hermes-qwen3.5-35b-a3b-GGUF, ориентированного на агентские сценарии и вызов функций. Релиз относится к проекту Genesis, автор которого заявляет о посттренировочной численной обработке весов без дополнительного обучения; эти заявления не подтверждены независимыми оценками в представленном описании. Модель предназначена для генерации текста и обработки изображений с текстовыми инструкциями, а также для диалогов, программирования, агентских задач и function calling. Заявлены поддержка английского и китайского языков, а также многоязычность. Архитектура — Mixture of Experts с общим размером около 35 млрд параметров и примерно 3 млрд активных параметров; точный размер контекста в README не указан. К потенциальным сильным сторонам относятся мультимодальность, MoE-архитектура и ориентация на следование инструкциям и агентские рабочие процессы. Модель экспериментальная, а заявленные улучшения стабильности, снижения шумов и качества не сопровождаются результатами бенчмарков, поэтому фактическую производительность следует проверять самостоятельно. Для запуска рекомендуется использовать совместимый GGUF-движок; README также содержит настройки для GPU-offload, MoE и KV-кэша. Указана лицензия MIT.

3MPER0RR/Ornith1.5-9B-3MPER0RR-abliterated — дообученная версия Ornith 1.5 9B, подготовленная 3MPER0RR для экспериментов. Это плотная языковая модель семейства Qwen3.5 с поддержкой диалогового взаимодействия; основная задача — генерация текста. Базовая модель Ornith AI предназначена для программирования, агентных задач и работы с инструментами в длинном контексте. Модель распространяется в формате safetensors по лицензии MIT. Карточка сообщает, что модель прошла испытания и сохранена, но не уточняет набор тестов, контекстное окно или поддерживаемые языки. Суффикс «abliterated» в названии указывает на изменение, связанное с отказами модели, однако карточка не описывает его метод и фактическое влияние.

Qwen2.5-2B-Instruct — компактная текстовая языковая модель семейства Qwen2, представленная win10. По карточке она собрана с помощью LazyMergekit из повторяющихся ссылок на Qwen/Qwen2.5-1.5B-Instruct; метаданные каталога классифицируют её как дообученную производную этой базовой модели. Модель предназначена для диалогов, генерации текста и структурированных ответов, включая сценарии с интерфейсом вызова инструментов. Архитектура — плотная Qwen2ForCausalLM, размер — 2,7 млрд параметров, контекст — 32 768 токенов. Доступен формат safetensors. Сведения о лицензии и поддерживаемых языках в предоставленных данных отсутствуют. Качество, безопасность ответов и фактическая эффективность вызова инструментов отдельно не описаны.

Qwen3-235B-A22B-Instruct-2507-4bit — языковая instruction-модель, разработанная командой Qwen и адаптированная сообществом mlx-community для формата MLX. Модель преобразована из Qwen/Qwen3-235B-A22B-Instruct-2507 с использованием mlx-lm 0.26.0 и предназначена для генерации текста по инструкциям в приложениях, работающих на MLX. В названии указаны общий размер 235B параметров, архитектура MoE с 22B активных параметров и 4-битное квантование, однако эти характеристики в представленном README явно не описаны и основаны только на идентификаторе модели. Поддерживается текстовая генерация; сведения о языках, размере контекста, модальностях, сильных сторонах и ограничениях не приведены. Для использования требуется библиотека mlx-lm и совместимое с MLX окружение. Модель распространяется по лицензии Apache-2.0. README не содержит дополнительных сведений о требованиях к оборудованию, производительности или особенностях применения.

Dohyeon1/Qwen3-30B-A3B-M-SMoE-ngroups96-no-permutation — языковая модель для генерации текста и диалоговых сценариев, доступная через библиотеку Transformers. По идентификатору модель относится к семейству Qwen3 и использует вариант разреженной Mixture-of-Experts-архитектуры; в метаданных указано 2,6 млрд параметров и контекст до 40 960 токенов. Модель предназначена для продолжения текста, генерации ответов в чатах и интеграции в приложения на базе Transformers. Тег conversational указывает на ориентированность на диалоговое применение, а safetensors — на формат хранения весов. В README отсутствуют сведения о разработчике, лицензии, языках обучения, датасетах, результатах оценки и подтверждённых сценариях безопасного использования.

Это конверсия в формат Apple MLX дообученной мультимодальной модели Qwen3.5-4B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING. Репозиторий xv1rcn подготовил её с помощью mlx-vlm 0.6.3; веса представлены в safetensors, а энкодер изображений сохранён в BF16. Модель имеет около 4 млрд параметров и гибридную архитектуру Qwen3.5 с Gated Delta Networks и разреженными блоками Mixture-of-Experts. Нативная длина контекста исходной модели — 262 144 токена, с расширением до 1 010 000; для конверсии отдельные характеристики контекста не приведены. Модель предназначена для диалогов, рассуждений, творческого письма, ролевых сценариев и ответов на вопросы по изображениям. README отмечает исправленный шаблон чата для обработки повторов, чрезмерно длинного рассуждения, циклов и вызова инструментов. Указана поддержка 201 языка и диалектов для семейства Qwen3.5, однако карточка этой модели отдельно подтверждает английский и китайский. Конверсия ориентирована на запуск в Apple MLX; для других сред совместимость зависит от используемого формата и инструментов. Лицензия — Apache-2.0.

Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF — это экспериментальная instruction-модель на базе Qwen3.5-9B, опубликованная пользователем W00ds1. В README указано, что она создана в результате многоэтапного fine-tuning и объединения нескольких моделей на локальном оборудовании при участии Nightmedia; базовая модель связана с DavidAU/Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP. Модель ориентирована на общий диалог, следование инструкциям, reasoning, программирование, творческое письмо и roleplaying, а также заявлена как uncensored и heretic-модель с уменьшенным количеством отказов. Модель поставляется в формате GGUF в обычных и MTP-вариантах, включая квантизации с использованием NEO IMATRIX. MTP предназначен для ускорения генерации за счёт multi-token prediction, но его эффективность зависит от оборудования, температуры и acceptance rate; при низком acceptance rate обычный вариант может работать быстрее. Заявлено контекстное окно 256k токенов. Поддерживаются английский и китайский языки. Vision активирован, однако для обработки изображений требуется отдельный файл mmproj. Указана совместимость со стандартными приложениями, поддерживающими GGUF. В README приведены результаты на ARC-C, ARC-E, BoolQ, HellaSwag, OpenBookQA, PIQA и Winogrande, где модель сравнивается с рядом более крупных моделей; эти результаты следует считать заявленными авторами и не распространять автоматически на все задачи. Ограничения включают зависимость производительности от выбранной квантизации, режима thinking или instruct, параметров генерации и аппаратного обеспечения, а также отсутствие гарантии превосходства над моделями большего размера во всех сценариях. Лицензия указана как Apache-2.0.

Qwen3.5-REAP-212B-A17B-W4A16 — квантизированная версия модели OpenMOSE/Qwen3.5-REAP-212B-A17B, подготовленная с помощью Intel AutoRound. Это MoE-модель с 212 млрд параметров; веса квантованы до 4 бит с группой 128, а маршрутизатор экспертов оставлен без квантизации. По метаданным модель предназначена для генерации текста и диалогового использования. В README описана процедура квантования, но не приведены сведения о контекстном окне и поддерживаемых языках. Для квантования использованы 64 калибровочных примера из NeelNanda/pile-10k с длиной последовательности 512. Модель требует поддержки архитектуры qwen3_5_moe в Transformers; в README отмечены проблемы совместимости AutoRound с Transformers 5.x, для которых нужны исправления импорта и определения мультимодальности. Лицензия — Apache-2.0.

Qwen3.6-27B — постобученная модель с открытыми весами от hamishivi, основанная на семействе Qwen3.6. Это причинная языковая модель с визуальным энкодером, поддерживающая диалог и интерфейс вызова инструментов. В README заявлен размер 27 млрд параметров и нативный контекст 262 144 токена с возможностью расширения до 1 010 000 токенов. Модель предназначена для агентного программирования, включая работу с фронтендом и анализ репозиториев, а также для диалоговых задач с изображениями и вызовом инструментов. Шаблон чата изменён для сохранения промежуточных рассуждений в истории сообщений. Для запуска указана совместимость с Transformers, vLLM, SGLang и KTransformers; репозиторий содержит веса в формате safetensors. README приводит результаты и сценарии оценки для программирования, работы в терминале, генерации веб-интерфейсов и мультимодальных задач, но таблицы с численными результатами отсутствуют. Метаданные указывают лицензию Apache-2.0. Для развёртывания с длинным контекстом требуется значительная память GPU; README рекомендует уменьшать контекст при нехватке памяти.

Это GGUF-сборка модели Qwen3.6-35B-A3B-Abliterated-Heretic, подготовленная mradermacher. Репозиторий содержит BF16-веса и дополнительные файлы mmproj для мультимодальной обработки; в README также перечислены квантизованные варианты, включая Q2_K. Базовая модель — Youssofal/Qwen3.6-35B-A3B-Abliterated-Heretic-BF16. Модель предназначена для диалоговой генерации текста. В метаданных отмечена возможность чата, а карточка базовой модели указывает на обработку изображений. Лицензия — Apache-2.0. Доступность mmproj сама по себе не подтверждает, что все файлы или варианты сборки поддерживают одинаковые сценарии обработки изображений.

Bahushruth/Qwen3.6-35B-A3B-abliterated-v4-GGUF — набор GGUF-квантизаций языковой модели, разработанный Bahushruth на базе Bahushruth/Qwen3.6-35B-A3B-abliterated-v4. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ollama, LM Studio, KoboldCPP и другие совместимые среды. Это MoE-модель с 35 млрд общих параметров, 256 экспертами и 8 активными экспертами на токеном; согласно карточке, около 3 млрд параметров активны при обработке каждого токена. Данные о языках и размере контекстного окна не указаны. Доступны варианты от BF16 до 2-битных K-квантизаций и IQ-квантизаций с importance-matrix-калибровкой. Размер файлов составляет примерно 12–71 ГБ, а требования к оперативной памяти — от 16 ГБ в зависимости от варианта. Основные квантизации не содержат MTP-компонент для максимальной совместимости; отдельный BF16-вариант поддерживает Multi-Token Prediction и спекулятивное декодирование в совместимых версиях llama-server. Модель позиционируется как эффективная по вычислениям благодаря MoE-архитектуре и предлагает выбор между качеством, размером и требованиями к памяти. Вариант является «uncensored»: поведение отказа удалено методом norm-preserving abliteration, поэтому встроенные защитные ограничения ослаблены или отсутствуют. Это может быть полезно для исследовательских и экспериментальных сценариев, но повышает риски небезопасного использования и не гарантирует сохранение исходного поведения базовой модели. Модель распространяется по лицензии Apache-2.0; автор отдельно указывает, что релиз предназначен для исследований и не принимает на себя ответственность за дальнейшее использование.

Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking-8bit — языковая текстовая генеративная модель, разработанная сообществом mlx-community. Она представляет собой конверсию модели DavidAU/Qwen3.6-40B-Claude-4.6-Opus-Deckard-Heretic-Uncensored-Thinking в формат MLX с использованием mlx-lm 0.31.1 и предназначена для запуска через экосистему MLX. Модель ориентирована на генерацию текста, включая программирование, творческое письмо, создание сюжетов и сцен, сторителлинг и ролевые сценарии. Заявлена поддержка английского и китайского языков. В карточке указаны размер 40B параметров и 8-битное представление, однако сведения об архитектуре, длине контекста и мультимодальности отсутствуют; по назначению и pipeline_tag это текстовая, а не мультимодальная модель. К сильным сторонам относятся специализация на рассуждениях, коде и творческих задачах, а также возможность локального использования в MLX-совместимой среде. Ограничения включают отсутствие подробных данных о качестве, бенчмарках, производительности и точной архитектуре; заявленные характеристики следует проверять на конкретных задачах. Лицензия — Apache-2.0.

Qwen3.8-27B-heretic-MLX-bf16 — текстовая сборка для генерации ответов и диалогов, опубликованная donedynamics для Apple Silicon. Она создана конвертацией в формат MLX из trohrbaugh/Qwen3.8-27B-heretic-ara; исходная модель относится к семейству Qwen3.8 и представляет собой abliterated-производную Qwen/Qwen3.8-27B. Сборка использует библиотеку MLX и веса bfloat16 без квантизации; размер весов составляет около 50 ГБ. В шаблоне чата доступны режим рассуждений и настройка его интенсивности. Модель принимает текст и генерирует текст. Несмотря на мультимодальность исходной Qwen3.8-27B, эта сборка содержит только языковую часть и не принимает изображения или видео. Удаление отказов унаследовано от базовой модели; сама конвертация не добавляет выравнивание и не изменяет это поведение. Разработчик рекомендует оценить модель и при необходимости настроить фильтрацию перед использованием с пользователями. По README, bf16-сборка медленнее и требует больше памяти, чем квантизированные варианты; приведённые показатели скорости и памяти получены на одной конфигурации и одном коротком запросе, поэтому служат лишь ориентиром. Лицензия — Apache-2.0.

esatapedico публикует набор из девяти вариантов Qwen3.8-27B в формате GGUF, сконвертированных из unsloth/Qwen3.8-27B-NVFP4. Это плотная мультимодальная модель с обработкой изображений и видео, гибридной архитектурой Gated DeltaNet и Gated Attention, 27 млрд параметров и нативным контекстом до 262 144 токенов. В каждый файл встроена голова MTP для спекулятивного декодирования, поэтому отдельная модель-черновик не нужна. Варианты образуют лестницу по размеру и точности дополнительных весов: от компактных уровней с NVFP4-квантизацией до вариантов с головами в Q8_0 или BF16. Для обработки изображений и видео README рекомендует подключать проектор mmproj-BF16.gguf из репозитория. Модель предназначена для генерации текста и мультимодального диалога; автор приводит лишь предварительные наблюдения на одном запуске, а не результаты полноценного бенчмарка. Репозиторий рассчитан на использование с llama.cpp и аппаратурой NVIDIA Blackwell; доступность и скорость зависят от выбранного файла, видеопамяти и длины KV-кэша. Указана лицензия Apache-2.0.

Карточка модели willhx/Qwen3-8B-Base-Math на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Это экспериментальная производная модель Qwen3.6-35B-A3B с разреженной маршрутизацией экспертов. Она предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. В README указано, что средняя точность хранения маршрутизируемых экспертов составляет 2,022 бита, а остальные веса — BF16; веса хранятся в BF16-тензорах после деквантизации и загружаются через стандартные Transformers или vLLM. Модель основана на Qwen/Qwen3.6-35B-A3B и следует его лицензии. README помечает её как внутренний исследовательский чекпойнт. Сведения о поддерживаемых языках и длине контекста в предоставленных источниках отсутствуют.

ClaudioItaly/QwenTies-7B — слитая методом TIES языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она объединяет Qwen/Qwen2.5-7B-Instruct и Qwen/Qwen2.5-7B; в README указана база Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для диалоговых сценариев и генерации текстовых ответов; метаданные также указывают интерфейс вызова инструментов. Базовая Qwen2.5-7B-Instruct описана как модель для генерации текста, кода и структурированных ответов, но отдельные преимущества этого слияния не приведены. Лицензия в предоставленных данных не указана.

Qwick-3.5-9B — модель Nobuyuki Horiuchi, дообученная на основе Qwen/Qwen3.5-9B. Это самостоятельный чекпойнт BF16 в формате Transformers, предназначенный для генерации текста с более короткими рассуждениями: при близких результатах на MMLU-Pro и GPQA-Diamond длина ответов в приведённых сравнениях сокращалась примерно на 29–40%. Модель также оценивалась на следовании инструкциям, японских вопросах и генерации кода. Основные сценарии — текстовые рассуждения и ответы на вопросы; README приводит оценку сохранения возможностей на изображениях по валидационной выборке MMMU, но автор не квалифицирует модель для широкого мультимодального развёртывания. Модель рассчитана в первую очередь на японский и английский языки. Репозиторий содержит веса Safetensors и использует библиотеку Transformers; лицензия — Apache-2.0. Качество зависит от задачи и профиля генерации: например, в README зафиксировано снижение результата на HMMT и регрессия в разделе инженерии MMLU-Pro. Модель не оценивалась для критически важных рекомендаций, решений с высоким воздействием без надзора или автономных действий; результаты для других форматов, настроек и распределений изображений требуют отдельной проверки.

Xirui1208/readall-readtwice-14b-stage2-localstep10-globalstep25-20260928 — языковая модель семейства Qwen2 с плотной архитектурой и примерно 14 млрд параметров. Она представлена в формате safetensors для инференса в BF16; в метаданных указаны генерация текста, чат и интерфейс вызова инструментов. Модель предназначена для диалоговой генерации текста. Контекст составляет до 32 768 токенов. README описывает её как оценённый чекпойнт второго этапа обучения ReadAll и сообщает, что репозиторий архивирован по просьбе владельца; включены оценённые чекпойнты, а кандидаты, использовавшиеся только для калибровки, и отклонённые варианты помечены отдельно. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны. Также нет сведений о конкретных результатах оценки или ограничениях качества.

RecurrentGemma 9B — базовая большая языковая модель, разработанная Google. Она предназначена для генерации текста и может использоваться как основа для диалоговых интерфейсов, создания и суммаризации текстов, а также экспериментов в NLP. Это авторегрессионная модель для Transformers, доступная в формате safetensors. Архитектура RecurrentGemma рассчитана на более высокую скорость генерации, особенно для длинных последовательностей и больших пакетов, по сравнению с Gemma 7B с Multi-Head Attention; выигрыш может быть меньше при сравнении с моделями на Multi-Query Attention. Карточка описывает базовую версию, а не instruct-вариант. В README не приводятся контекстное окно и список поддерживаемых языков. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью и сложными открытыми задачами, а также воспроизводить смещения из обучающих данных. Для использования действует лицензия Gemma и условия Google, включая ограничения на применение моделей Gemma.

Replete-LLM-Qwen2-7b-GGUF — набор GGUF-квантизаций модели Replete-LLM-Qwen2-7b, опубликованный и подготовленный квантизатором bartowski. Базовая модель разработана Replete-AI; в README указано, что квантизация выполнена с помощью llama.cpp release b3509 и метода imatrix. Модель предназначена для генерации текста и использования в локальных средах, включая LM Studio, с применением указанного шаблона prompt format. Это текстовая авторегрессионная модель семейства Qwen2 с заявленным размером 7 млрд параметров и поддержкой английского языка. Доступны варианты от F32 размером 30,47 ГБ до сильно сжатых IQ2_M размером 2,78 ГБ, включая форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ. Более высокие уровни квантизации обычно сохраняют лучшее качество, тогда как компактные варианты рассчитаны на системы с ограниченным объёмом оперативной памяти. Для некоторых вариантов embeddings и output weights сохранены в Q8_0, что может повышать качество, но эффект зависит от сценария. Сильные стороны набора — широкий выбор размера файлов и компромисса между качеством и требованиями к памяти, а также совместимость с llama.cpp и LM Studio. Ограничения включают потенциальное снижение качества в низкобитных вариантах и отсутствие в README подробных данных о контекстном окне, точной архитектуре, мультимодальности и результатах бенчмарков. Лицензия — Apache-2.0; в метаданных также указано, что модель связана с датасетом Replete-AI/Everything_Instruct_8k_context_filtered.

Rombo-Org_Rombo-LLM-V3.1-QWQ-32b-GGUF — это набор GGUF-квантизаций 32-миллиардной языковой модели Rombo-LLM-V3.1-QWQ-32b, разработанной Rombo-Org. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, рассчитанные на разные компромиссы между качеством, размером файла и требованиями к памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; Q4_K_M указан как вариант по умолчанию для большинства сценариев. Размер файлов составляет примерно от 13,71 до 34,82 ГБ. Модель работает в текстовой модальности; поддерживаемые языки и размер контекста в предоставленных данных не указаны. Сильной стороной является возможность локального запуска на широком спектре оборудования благодаря множеству уровней квантизации, включая варианты для систем с ограниченной оперативной памятью и отдельные legacy-форматы. При снижении точности квантизации уменьшается потребление памяти, но может ухудшаться качество генерации; самые компактные варианты отмечены как низкокачественные или нерекомендуемые. Лицензия модели указана как Apache-2.0.

RWKV-7 Goose 1.5B — официальная базовая языковая модель BlinkDL в формате Transformers. Это плотная авторегрессионная модель класса Rwkv7ForCausalLM с рекуррентной архитектурой без attention: размер состояния не растёт с длиной контекста, а вычислительная работа на генерируемый токен остаётся постоянной; обучение при этом допускает параллелизацию. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Модель предназначена для генерации текста, оценки, последующего обучения и дообучения, в том числе для создания диалоговых приложений. Шаблон чата задаёт формат промпта, но сам по себе не означает, что модель является безопасным или выровненным ассистентом. В комплект входят интеграция с Transformers, токенизатор RWKV и шаблон чата; заявлена поддержка LoRA. Репозиторий содержит веса safetensors, размер модели — 1,5 млрд параметров. Лицензия Apache-2.0. Качество следования инструкциям и языковое поведение зависят от чекпойнта, промптинга и последующего обучения. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения предыдущих состояний. Оптимизированный инференс зависит от GPU, типа данных, размера пакета и формы входа; для TileLang требуется проверка совпадения результатов для конкретной конфигурации. Оценки безопасности, предвзятости, токсичности, фактической точности и пригодности для критически важных сценариев не заявлены.

SauerkrautLM-UNA-SOLAR-Instruct — диалоговая языковая модель, созданная разработчиком Weyaxi путём слияния моделей с помощью mergekit. Она предназначена для генерации ответов в формате чата и общих текстовых задач. Модель построена на плотной архитектуре Llama, содержит 10,6 млрд параметров и поддерживает контекст до 4096 токенов; карточка предлагает шаблон диалога с сообщениями пользователя и ассистента. В README сообщается, что 24 декабря 2023 года модель занимала первое место в Open LLM Leaderboard; среди приведённых результатов — 74,26 в среднем, 70,90 на AI2 Reasoning Challenge и 88,30 на HellaSwag. Репозиторий содержит веса в формате safetensors. Лицензия CC BY-NC 4.0 требует атрибуции и ограничивает коммерческое использование. Языки и специализированные предметные области в предоставленных данных не обозначены.

Seed 2.1 Turbo — мультимодальная модель команды ByteDance Seed для программирования и длительных агентных сценариев. Она предназначена для сквозной разработки программного обеспечения и выполнения многошаговых задач. Каталог относит модель к задаче image-text-to-text, а карточка описывает понимание визуальной информации. Доступная часть карточки не раскрывает архитектуру, размер, контекст, языки или лицензию, поэтому эти характеристики здесь не приводятся. По описанию модель принимает текст и визуальную информацию и предназначена для агентных рабочих процессов; подробности о доступных инструментах и качестве выполнения задач не указаны.

SG Raccoon Yi 55B 200K — языковая conversational-модель, разработанная Marco Lironi на базе архитектуры Yi и опубликованная в формате GGUF. Репозиторий TheBloke содержит её квантизированные версии для локального запуска; исходная неквантизированная модель доступна в формате PyTorch. Указан английский язык. Модель предназначена для диалоговых сценариев и генерации текста. GGUF-файлы поддерживаются llama.cpp и рядом совместимых интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и сохранением качества. В README также указан размер контекста 200K, отражённый в названии модели. К сильным сторонам относятся большой контекст и возможность локального CPU+GPU-инференса с разными уровнями квантизации. Ограничения — необходимость значительных вычислительных ресурсов для модели класса 55B, возможная потеря качества при агрессивной квантизации и отсутствие в предоставленных данных подробных результатов оценки. Модель распространяется по лицензии yi-license; README ссылается на лицензию Yi и обозначает её как нестандартную.

Snorkel-Mistral-PairRM-DPO-ExPO — разговорная языковая модель, созданная методом ExPO на основе Snorkel-Mistral-PairRM-DPO и Mistral-7B-Instruct-v0.2. В README описан подход Weak-to-Strong Extrapolation Expedites Alignment: веса SFT- и DPO/RLHF-чекпойнтов экстраполированы с коэффициентом alpha = 0.3 для лучшего соответствия человеческим предпочтениям. Модель использует плотную архитектуру MistralForCausalLM на 7,1 млрд параметров, принимает текст и генерирует текст; заявленный размер контекста — 32 768 токенов. Она предназначена для диалогов и генерации ответов. README приводит результаты оценивания на AlpacaEval 2.0 и MT-Bench, но не раскрывает подробности конфигурации развёртывания или конкретные прикладные ограничения. Модель выпущена под лицензией Apache-2.0.

Stable-Platypus2-13B — языковая модель, созданная объединением Platypus2-13B и StableBeluga-13B. В карточке указаны Platypus2-13B от Cole Hunter и Ariel Lee и StableBeluga-13B от StabilityAI. Модель построена на авторегрессионной архитектуре LLaMA 2, содержит 12,9 млрд параметров и имеет контекст до 4096 токенов. Модель предназначена для генерации текста по инструкциям на английском языке. Её можно применять для ответов на вопросы, решения задач по STEM и логике, а также для генерации объяснений и другого текста. В карточке приведена оценка на тестах ARC, HellaSwag, MMLU и TruthfulQA. Модель может выдавать неточные, предвзятые или нежелательные ответы; испытания проводились на английском языке и не охватывают все сценарии. Лицензия репозитория — CC BY-NC-SA 4.0, поэтому коммерческое использование ограничено её условиями.

Starling-LM-7B-alpha — языковая модель для диалогов, разработанная Banghua Zhu, Evan Frick, Tianhao Wu, Hanlin Zhu и Jiantao Jiao. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 8192 токенов, доступная в формате safetensors для Transformers. Модель дообучена на Openchat 3.5 с помощью обучения с подкреплением на основе отзывов ИИ (RLAIF). Для настройки использовались reward-модель Starling-RM-7B-alpha, набор ранжированных ответов Nectar и метод APA. Модель предназначена для диалогов и генерации ответов на английском языке; авторы рекомендуют применять шаблон чата Openchat 3.5. В редких случаях ответы могут быть многословными. В README приведены результаты оценки на MT-Bench, AlpacaEval и MMLU, однако они не гарантируют такого же качества в других сценариях. Лицензия — Apache-2.0 с указанным в карточке условием не использовать модель для конкуренции с OpenAI.

google/t5gemma-l-l-ul2 — предобученная текстовая encoder-decoder модель семейства T5Gemma, разработанная Google: вариант с энкодером и декодером размера L, адаптированный с использованием UL2. Архитектура преобразует текст в текст и рассчитана на генеративные задачи; веса опубликованы в формате safetensors для Transformers. Модель относится к серии T5Gemma, созданной на основе адаптации декодерных моделей Gemma к архитектуре encoder-decoder. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и рассуждений; энкодер также подходит для задач классификации и понимания текста. В карточке указана поддержка английского языка. Возможные сценарии включают создание черновиков и кратких изложений, а также NLP-исследования. Точный размер параметров и длина контекста для этого репозитория не приведены. К ограничениям относятся возможные ошибки в фактах, чувствительность к формулировке запроса и контексту, трудности с языковыми нюансами, а также смещения и пробелы в обучающих данных. Лицензия Gemma; использование должно соответствовать условиям лицензии и политике допустимого использования Gemma.