I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейPhi-4-mini-instruct-mlx-fp16 — версия модели Microsoft Phi-4-mini-instruct, преобразованная SkyStar-tech в формат MLX для запуска на устройствах Apple с использованием mlx-lm. Это плотная авторегрессионная языковая модель с 3,8 млрд параметров и контекстом до 4096 токенов. Она предназначена для диалогов, генерации текста и кода, а также рассуждений в приложениях с ограниченными ресурсами. Поддерживает английский, русский и другие языки, перечисленные в карточке модели. Репозиторий использует формат safetensors и лицензию MIT; README указывает преобразование в MLX с помощью mlx-lm 0.31.2.
Qwen3-32B-AWorld — плотная языковая модель на 29,7 млрд параметров, дообученная InclusionAI на базе Qwen/Qwen3-32B. Она предназначена для агентных сценариев: ведения диалога, решения сложных задач с помощью внешних инструментов и точного формирования вызовов инструментов. В README заявлены высокие результаты на бенчмарке GAIA, включая pass@1 выше GPT-4o и сопоставимый с DeepSeek-V3; это утверждение разработчика, а подробности оценки не приведены. Модель принимает текст и выдаёт текст, включая вызовы инструментов в совместимом с OpenAI API формате. Используется архитектура Qwen3ForCausalLM, формат весов — safetensors, библиотека — Transformers; заявленная длина контекста составляет 131 072 токена. Для работы с инструментами при запросе нужно передавать описания доступных инструментов. Модель распространяется по лицензии Apache-2.0.
Qwen3.6-27B-Heretic-Uncensored-FINETUNE-NEO-CODE-Di-IMatrix-MAX-GGUF — это производная от Qwen3.6-27B модель от DavidAU, созданная на базе Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking. Модель была подвергнута декодированию ограничений и дообучению с использованием Unsloth на пользовательском наборе данных, а затем преобразована в GGUF-квантизации с применением методов NEO и NEO-CODE Di-Matrix. Модель предназначена для общего применения, включая диалоги, творческое и художественное письмо, генерацию сюжетов и сцен, ролевые сценарии, программирование, математику и задачи, требующие работы с длинным контекстом. Заявлена поддержка контекста до 256 тысяч токенов. Указаны языки English и Chinese. Размер базовой модели — 27 миллиардов параметров; доступны квантизации с различным соотношением качества и требований к памяти, включая IQ2_M и Q4K_S. В карточке также заявлена поддержка image-text-to-text, однако подробности о мультимодальных возможностях не приведены. Сильными сторонами заявлены сниженный уровень отказов, отсутствие цензурных ограничений, высокая близость к качеству полной точности и оптимизация для длинных диалогов, кода и математических задач. Приведённые результаты основаны преимущественно на внутренних тестах автора, поэтому их не следует считать независимой оценкой. Конкретные требования к оборудованию, совместимые приложения и подробная методика дообучения не указаны. Модель распространяется по лицензии Apache-2.0.
Это GGUF-квантизация модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и дополнительно преобразованной с помощью официального квантизатора llama.cpp. Модель предназначена для локального запуска и генерации текста, включая задачи рассуждения, программирования и работы с естественным языком. Вариант использует архитектуру Qwen3.6-35B-A3B-MTP и формат IQ2_M с динамической смешанной точностью; размер файла уменьшен за счёт низкобитного квантования, а Unsloth importance matrix помогает эффективнее распределять доступную точность между тензорами. Другие характеристики, включая поддерживаемые языки, контекст и модальности, в README не указаны. В основе лежит модель Heretic, в которой применена техника abliteration для снижения числа отказов без значительного изменения исходных возможностей. Согласно README, модификация затрагивает лишь ограниченную часть весов, а заявленный результат — на 88% меньше отказов по сравнению с оригинальной моделью при сохранении близкого качества. К преимуществам относятся совместимость с актуальными версиями llama.cpp, небольшой объём хранения и улучшенное соотношение качества и размера благодаря динамическому квантованию и importance matrix. Ограничением является возможная потеря качества из-за агрессивного IQ2_M-квантования, а отказосниженное поведение может быть нежелательно для сценариев, требующих строгих защитных ограничений. Лицензия указана как Apache-2.0; README отмечает, что GGUF следует лицензии исходной модели, поэтому для полного понимания условий использования следует проверить upstream-репозиторий.
Qwen3.8-27B-OBLITERATED — дообученная версия Qwen3.8-27B, опубликованная Jaredhollins. Модель предназначена для диалогов и генерации текста, включая ответы на запросы, которые базовая модель может отклонять или сопровождать предупреждениями. По карточке, версия V3 устраняет жёсткие отказы и уклончивые ответы, сохраняя близкую к исходной производительность; в приведённом тесте MMLU она набрала 82,3% против 84,5% у базовой модели. В основе лежит плотная архитектура семейства Qwen3.5 с 27 млрд параметров. Репозиторий содержит варианты GGUF от BF16 до нескольких уровней квантования, а также файлы safetensors и MLX. Для GGUF автор рекомендует использовать встроенный шаблон чата; также указаны настройки генерации, помогающие уменьшить повторения и циклы. Лицензия — Apache-2.0. Модель ориентирована на ответы без отказов и подходит для диалоговых, кодовых и агентных сценариев. Указанные автором результаты на ограниченных наборах задач включают 20 из 20 проверок генерации кода, а также успешные примеры рефакторинга, извлечения данных по JSON-схеме и циклов ReAct. Это самооценка автора карточки; приведённые результаты не гарантируют качество на других запросах. В README также отмечено снижение MMLU относительно базовой модели, особенно в STEM, и склонность к повторениям без рекомендуемых настроек.
nvythong/Qwen3.8-35B-A3B-Distill-mlx-fp16 — конвертированная в формат MLX модель Empero на базе Qwen3.8-35B-A3B-Distill. Репозиторий создан 29 сентября 2026 года; модель предназначена для диалоговой генерации текста. Базовая модель имеет MoE-архитектуру семейства Qwen3.5 и поддерживает чат, рассуждения, математику, программирование и вызов инструментов. В README указано преобразование с помощью mlx-lm 0.31.2; метаданные указывают формат safetensors и лицензию Apache-2.0. Модель ориентирована на английский язык. Сведений о длине контекста и точном числе параметров этой версии нет.
Kaoeiri/Qwenwify2.5-32B-v3.98 — языковая модель семейства Qwen2, созданная разработчиком Kaoeiri путём объединения предварительно обученных моделей с помощью mergekit и метода DARE TIES. В качестве базовой использована Qwen/QwQ-32B-Preview; в объединение также вошли Sao10K/32B-Qwen2.5-Kunou-v1, Kaoeiri/Qwenwify-32B-v3 и Dans-DiscountModels/Qwen2.5-32B-ChatML. Модель содержит 32 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации диалоговых ответов. Заявленная длина контекста — 32 768 токенов. Метаданные отмечают поддержку интерфейса вызова инструментов. Модель может быть полезна для математических рассуждений и программирования благодаря свойствам базовых моделей, однако отдельные результаты оценки для этого объединения не приведены. Лицензия — CC BY-NC-ND 4.0, с ограничениями на коммерческое использование и создание производных распространённых версий; тег карточки предупреждает, что модель подходит не для всех аудиторий.
QWQ-Rombos-ties-TEST2 — экспериментальное объединение двух предварительно обученных языковых моделей, созданное сообществом mergekit-community. Модель использует плотную архитектуру Qwen2ForCausalLM и объединена методом SLERP из Qwen/QwQ-32B-Preview и rombodawg/Rombos-LLM-V2.5-Qwen-32b. Модель содержит 32 млрд параметров, принимает текст и предназначена для генерации диалоговых ответов, математических рассуждений и программирования. Поддерживает контекст до 32 768 токенов; в метаданных также отмечен интерфейс для вызова инструментов. Языковая поддержка отдельно не перечислена. Веса доступны в формате safetensors, библиотека для работы — Transformers. Это экспериментальная сборка слияния, поэтому её качество и поведение могут отличаться от исходных моделей. Лицензия в предоставленных данных не указана.
StarFuse-7B-DARE — диалоговая языковая модель на архитектуре Mistral, созданная объединением четырёх моделей с помощью mergekit и метода dare_ties: openchat/openchat-3.5-0106, FuseAI/FuseChat-7B-VaRM, Nexusflow/Starling-LM-7B-beta и Weyaxi/Newton-7B. Модель содержит 7,1 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы в формате диалога. Она предназначена для общения и генерации текста, включая ответы на общие вопросы, программирование и математические рассуждения. Контекст составляет 8192 токена. Модель опубликована в формате safetensors с точностью bfloat16 и лицензией Apache-2.0. В README не приведены сведения о целевых языках или специальных ограничениях качества.
Locutusque/StockQwen-2.5-7B — плотная языковая модель на архитектуре Qwen2, созданная автором репозитория с помощью mergekit методом Model Stock. В слияние вошли Qwen2.5-7B, Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct; базовая модель — Qwen/Qwen2.5-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоги; интерфейс поддерживает вызов инструментов. Для практического использования в README рекомендуется дообучение. Модель работает с текстом и имеет заявленный контекст до 131 072 токенов. Метаданные перечисляют английский, китайский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Слияние инструктивной, кодовой и математической моделей предполагает применимость к диалогам, генерации кода и математическим ответам, однако README не приводит оценок качества. Файлы опубликованы в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.
T3qm7xNeuralsirkrishna_YamM7 — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/YamM7-7B. Она предназначена для генерации текста и диалогов, включая сценарии с длинным контекстом до 32 768 токенов. Модель опубликована в формате Safetensors и распространяется по лицензии Apache 2.0. Данные карточки не уточняют целевые языки и специализацию, поэтому модель можно описать как универсальную генеративную языковую модель.
FiditeNemini/Unhinged-Qwen2.5-R1-1M-Uncensored-BF16 — объединённая модель автора FiditeNemini, полученная методом TIES из huihui-ai/DeepSeek-R1-Distill-Qwen-14B-abliterated-v2 и mkurman/Qwen2.5-14B-DeepSeek-R1-1M. Это плотная причинно-языковая модель семейства Qwen2 с 14 млрд параметров, предназначенная для диалогов и генерации текста, включая код; интерфейс модели также поддерживает вызов инструментов. Репозиторий содержит веса Safetensors и версию для MLX в точности bfloat16. Метаданные указывают контекст до 1 010 000 токенов, тогда как README приводит 4096 токенов; фактическая поддержка столь длинного контекста может зависеть от конфигурации и используемого преобразования. В тегах указан английский язык. Модель позиционируется как uncensored и основана на вариантах с ослабленными отказами, поэтому её ответы могут включать нежелательный контент. Лицензия — Apache 2.0.
Unlimited-OCR-GGUF — набор GGUF-квантизаций модели baidu/Unlimited-OCR, подготовленный пользователем sahilchachra. Это мультимодальная vision-language OCR-модель примерно на 3 млрд параметров, предназначенная для распознавания текста и структурированного разбора документов по изображениям. Поддерживаются сценарии преобразования документов в Markdown с сохранением структуры, извлечения обычного текста, распознавания таблиц и элементов макета, получения ограничивающих рамок, разбора рисунков, графиков и диаграмм, а также визуального вопросно-ответного взаимодействия. В метаданных заявлена многоязычность, без перечисления конкретных языков. Модель использует архитектуру DeepSeek-OCR: визуальную башню DeepEncoder на базе SAM и CLIP, а также текстовый декодер DeepSeek-V2 MoE. Репозиторий содержит варианты от BF16 до 2- и 3-битных K-quants и i-quants; рекомендуемым компромиссом размера и качества указан Q4_K_M. Визионный проектор mmproj поставляется отдельно в формате F16 и требуется для каждого запуска. Контекстное окно в README не указано. Сильные стороны модели — ориентация на однопроходный разбор документов, поддержка длинных и плотных документов, сохранение порядка чтения и структуры, а также возможность получать координаты найденного текста. Ограничения связаны с необходимостью специальной сборки llama.cpp с поддержкой DeepSeek-OCR: стандартная ветка upstream на момент публикации файлы не загружает. Для работы необходимо скачать одновременно языковую GGUF-модель и vision projector; низкобитные варианты экономят память, но снижают качество OCR. Лицензия — MIT.
AlphaAI-1.5B-Thought — языковая модель Alpha AI, дообученная на базе Qwen2.5-1.5B для пошаговых рассуждений и решения структурированных задач. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров; заявленная длина контекста — 131 072 токена. Модель принимает текст и генерирует текст, а карточка указывает английский язык. Модель предназначена для локального запуска и диалоговых сценариев, где полезны многошаговые выводы: разбор математических и научных задач, программирование, генерация рабочих процессов и структурированные ответы виртуальных помощников. Веса представлены в формате PyTorch/Safetensors; README также описывает вариант с 16-битной точностью и перечисляет доступные квантизованные варианты. Лицензия — Apache-2.0. Модель может наследовать предвзятости обучающих данных, а ответы для критически важных задач следует проверять; качество в конкретных предметных областях карточка не подтверждает.
TheBloke опубликовал модель Jon Durbin Airoboros 33B GPT4 1.4 в формате PyTorch fp16, объединив её с SuperHOT 8K от Kaio Ken. Это плотная авторегрессионная модель семейства LLaMA примерно с 32,3 млрд параметров и контекстом до 8192 токенов. В README указано, что для поддержки расширенного контекста при инференсе требуется trust_remote_code=True или соответствующий monkey patch. Модель предназначена для диалогов и ответов на инструкции, включая вопросы по предоставленному контексту, генерацию текстов, ролевые сценарии, загадки и примеры кода. Обучающие данные Airoboros были синтетически созданы с помощью GPT-4; в карточке также отмечены примеры кода на десяти языках программирования. Для полного качества ответы на закрытые вопросы по контексту рекомендуется задавать в специальном формате, описанном в README. Веса доступны в формате PyTorch fp16 для GPU-инференса и дальнейшей конвертации. README помечает исходную версию Airoboros как ещё не протестированную; модель требует совместимого окружения и настройки расширенного контекста. Лицензия в метаданных обозначена как other, поэтому конкретные условия следует сверять с файлами репозитория.
ANITA-NEXT-20B-gpt-oss-ITA — языковая модель семейства ANITA, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Это дообученная методом SFT с QLoRA и дополнительно выровненная с помощью DPO версия openai/gpt-oss-20b. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев и последующего дообучения для задач на итальянском языке. Модель принимает текст и генерирует текст; карточка характеризует её как мультиязычную с акцентом на итальянский и английский. Архитектура — GPT-OSS с разреженной экспертной моделью (MoE), в репозитории используются веса Safetensors. Метаданные указывают 1,6 млрд параметров и контекст до 131 072 токенов; README предупреждает, что качество ответов ухудшается после 40 000 токенов. Лицензия — Apache-2.0. Модель подходит для италоязычных диалогов, генерации кода и построения агентных приложений. Разработчик предупреждает о возможных галлюцинациях и некорректных, оскорбительных или опасных ответах, поэтому результаты требуют проверки. В README релиз обозначен как предназначенный для исследовательских целей.
CerebrumDolphin-2.0-Mistral-7B-v0.2 — языковая модель на архитектуре Mistral, созданная объединением моделей cognitivecomputations/dolphin-2.8-mistral-7b-v02 и Locutusque/OpenCerebrum-2.0-7B методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. В описании базовой модели упоминаются программирование, математика и естественно-научные вопросы; карточка этой модели не приводит отдельных результатов оценки качества. Доступны веса в формате safetensors для Transformers. Лицензия в предоставленных данных не указана.
DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель семейства Qwen3, разработанная DeepSeek. Это версия Qwen3 8B, дообученная на цепочках рассуждений DeepSeek-R1-0528; число параметров составляет 7,6 млрд. Модель предназначена для диалогов и генерации текста с акцентом на многошаговые рассуждения, математику, программирование и логические задачи. В метаданных указаны интерфейс для вызова инструментов и контекст до 131 072 токенов. По описанию разработчика, модель улучшает результаты Qwen3 8B на AIME 2024 и сопоставима с Qwen3-235B-thinking в этой оценке. README также отмечает пригодность для академических исследований рассуждающих моделей и разработки компактных моделей. Модель принимает и генерирует текст; сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют. Лицензия — MIT, допускающая широкое использование в соответствии с её условиями.
Текстовая модель семейства Llama, опубликованная Kunakornjack и дообученная на unsloth/DeepSeek-R1-Distill-Llama-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические задачи, программирование и многошаговые рассуждения. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Модель может применяться для диалоговых помощников, генерации ответов, решения математических задач и помощи с кодом. Карточка не описывает отдельные результаты или специализацию этого дообучения, поэтому его влияние на качество по сравнению с базовой моделью оценить нельзя. Лицензия — Apache-2.0.
DeepSeek-R1-Qwen-lorablated-32B — плотная языковая модель на архитектуре Qwen2, созданная nbeerbower слиянием DeepSeek-R1-Distill-Qwen-32B и Qwen2.5-32B-abliterated-LORA методом task arithmetic с помощью mergekit. Модель содержит 32 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, рассуждений и решения задач, в том числе по математике и программированию — такие возможности указаны для базовой модели. В метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробных инструкций по применению, поэтому производительность конкретных сценариев не подтверждена.
Dolphin-2.9.2-Phi-3-Medium-abliterated-GGUF — это квантованное в формате GGUF семейство версий языковой модели Dolphin-2.9.2-Phi-3-Medium-abliterated. Исходная модель опубликована cognitivecomputations, а квантование выполнено bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста в диалоговых и инструкционных сценариях, включая программирование, решение математических задач, работу с агентскими инструкциями и обычный чат. Указан английский язык; сведения о поддержке других языков отсутствуют. Модель основана на unsloth/Phi-3-mini-4k-instruct и обучалась на наборах Dolphin-2.9.2, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, samantha-data, Orca Math, Agent-FLAN и других. Доступны варианты квантования от Q8_0 до Q2_K и IQ2/IQ3/IQ4; размер файлов составляет примерно от 4,19 до 14,83 ГБ. Более высокие уровни квантования обычно сохраняют лучшее качество, а низкие уменьшают требования к памяти ценой качества. Архитектура, точное число параметров, модальности и фактический размер контекста в README не указаны, однако название базовой модели указывает на вариант с контекстом 4K. Сильными сторонами являются локальный запуск через llama.cpp, широкий набор инструкционных и кодовых данных, а также выбор вариантов квантования для разного объёма доступной памяти. Ограничения включают возможное снижение качества у низкобитных вариантов и отсутствие подтверждённых характеристик производительности или безопасности; обозначение abliterated также указывает на модификацию исходной модели, поэтому ответы требуют проверки. Модель распространяется по лицензии MIT.
Eurus-7B-SFT — дообученная авторами проекта Eurus языковая модель на базе Mistral-7B для диалогов и решения задач с рассуждением. Модель обучена на корректных действиях из UltraInteract с небольшой долей примеров UltraChat, ShareGPT и OpenOrca. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она предназначена для генерации текста, включая диалоговые ответы, программирование и математические задачи; для кода и математики в карточке приведены специальные форматы подсказок. Контекст — до 32 768 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. В README заявлено, что модель превосходит открытые модели сопоставимого размера и в ряде случаев специализированные модели, однако независимые результаты в предоставленных материалах не приведены. Карточка не сообщает о поддерживаемых естественных языках или иных ограничениях.
Gemma-4-12B-Coder-Fable5-Composer2.5-8bit — это 8-битная MLX-квантизированная версия модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная сообществом mlx-community на основе Google Gemma-4-12B-it. Модель предназначена для генерации текста, программирования и задач, требующих рассуждений, включая локальный чат-стиль инференса через библиотеку mlx-lm. Модель содержит около 12 миллиардов параметров, использует формат 8-bit и оптимизирована для локального запуска на компьютерах Apple Silicon. Квантизация существенно снижает требования к памяти при сохранении близких к исходным возможностей рассуждения и генерации кода. В репозитории добавлен Jinja-шаблон чата для корректного форматирования диалогов. Поддерживаемые языки, размер контекста и набор модальностей в README не указаны; по описанию это текстовая модель. Модель распространяется по лицензии Apache 2.0, разрешающей использование, изменение и повторное распространение. Ограничения, связанные с качеством ответов, безопасностью и областью применения, в README отдельно не описаны.
Giraffe-v2-70b-32k — авторегрессионная языковая модель на базе Transformer, разработанная Abacus.AI и дообученная на Llama 2 70B для работы с увеличенным контекстом. Модель содержит 68,7 млрд параметров, использует архитектуру Llama и принимает текст для генерации текста в диалоговых сценариях. Заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и обработки длинных запросов и документов в чат-сценариях. Для работы с увеличенной длиной контекста требуется специальная настройка интерполяции; загрузка через стандартный AutoModel из Transformers без такой модификации не поддерживается. Лицензия — Llama 2 Community License.
GLM-4.5-Air-bf16 — версия GLM-4.5-Air, подготовленная сообществом mlx-community для запуска в MLX на устройствах Apple с поддержкой MLX. Репозиторий преобразован из zai-org/GLM-4.5-Air с помощью mlx-lm 0.28.2; по метаданным, модель относится к семейству GLM-4 MoE и содержит 8,5 млрд параметров. Лицензия — MIT. Модель предназначена для генерации текста в диалоговом режиме. Базовая GLM-4.5-Air рассчитана на рассуждения, программирование и работу интеллектуальных агентов с инструментами; в этой карточке подтверждены диалоговая возможность и задача text-generation. Контекстное окно — 131 072 токена. Поддерживаемые языки по карточке — английский и китайский. Преобразованная версия упрощает запуск модели в экосистеме MLX. Доступные сведения не подтверждают отдельную оценку качества именно этой сборки или её поддержку вызова инструментов; назначение инструментов указано для базовой модели.
noctrex/GLM-4.7-MXFP4_MOE-GGUF — квантованная версия языковой модели GLM-4.7 от Z.ai, подготовленная в формате GGUF с применением imatrix на основе данных от Unsloth. Модель предназначена для диалогов и генерации текста; базовая GLM-4.7 рассчитана также на программирование, агентные задачи и рассуждения. MXFP4_MOE обозначает используемый вариант квантования модели типа MoE. Репозиторий содержит формат GGUF, подходящий для запуска в совместимом с ним программном обеспечении. Карточка не сообщает размер модели, длину контекста или поддерживаемые языки напрямую; описание базовой модели указывает на английский и китайский.
InternLM2-Base-7B — базовая плотная авторегрессионная языковая модель семейства InternLM2, разработанная командой InternLM. Она содержит 7,4 млрд параметров и предназначена для генерации и продолжения текста, а также служит отправной точкой для дообучения под конкретные области и задачи. Модель принимает текст и поддерживает контекст до 32 768 токенов. Разработчики сообщают об улучшениях в рассуждениях, математике и программировании относительно предыдущего поколения, а также о результатах на длинных текстах; заявленная в README способность обрабатывать до 200 000 символов не совпадает с контекстным пределом из метаданных. Карточка приводит результаты оценок OpenCompass и предупреждает, что ответы могут содержать предвзятые или вредоносные сведения. Код распространяется по Apache-2.0. Для весов указано открытое использование в академических исследованиях; для коммерческого применения требуется получить бесплатное разрешение.
OpenAssistant Llama2 70B SFT v10 — языковая модель OpenAssistant, дообученная на базе Meta Llama 2 70B. Это плотный авторегрессионный трансформер с декодером, примерно 68,7 млрд параметров; обучение проходило в два этапа: на смеси синтетических инструкций и задач по программированию, затем на отобранных человеческих диалогах OpenAssistant. Модель принимает диалог в формате ChatML и предназначена для генерации ответов, следования инструкциям и помощи с кодом. Контекст составляет 4096 токенов. Основной язык — английский; заявлены ограниченные возможности на немецком, испанском, французском, итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Сильные стороны — крупный размер и обучение на инструкциях, диалогах и коде. Ответы могут быть неточными, предвзятыми или нежелательными; тестирование проводилось преимущественно на английском, поэтому перед применением нужна проверка безопасности и качества. Модель распространяется по лицензии Llama 2 Community License Agreement.
Apollo Raines опубликовал вариант Llama 3.1 8B Instruct, изменённый инструментом jBlaze методом representation engineering. По описанию автора, дополнительного обучения не было: изменения в весах подавляют отказы и уклончивые формулировки, чтобы ответы были более прямыми. Модель предназначена для диалоговой генерации текста, ответов на вопросы и выполнения инструкций, включая задачи по программированию. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она принимает текст и выдаёт текст; в карточке указаны английский язык и контекст до 131 072 токенов. Автор характеризует релиз как демонстрационную версию с намеренно сниженной полнотой возможностей. Указана лицензия Llama 3.1; свойства изменения отказов могут влиять на безопасность ответов, а заявленных автором проблем не обнаружено.
llm-jp-4-kappa-32b-a3b-v0.1 — японско-английская диалоговая языковая модель Third-intelligence, созданная как исследовательский прототип на основе llm-jp/llm-jp-4-32b-a3b-thinking. Модель дообучили в два этапа: SFT для генерации рассуждений и обучение с подкреплением на математических и программных задачах. Она использует архитектуру Mixture-of-Experts: около 32 млрд параметров всего и примерно 3 млрд активных при генерации. Контекст — до 65 536 токенов. Модель предназначена для диалоговой генерации текста на японском и английском языках, включая задачи рассуждения, математики и программирования. В README приведены результаты сравнительных тестов на японских и английских заданиях; они показывают сильные результаты в ряде категорий, но не гарантируют точность для конкретного запроса. Для запуска указаны Transformers и vLLM с reasoning parser для формата LLM-jp-4; для рекомендуемой конфигурации требуются несколько GPU с 80 ГБ памяти, хотя возможен запуск на одной такой карте с уменьшением длины контекста. Опубликована по лицензии Apache 2.0; README также требует соблюдать лицензию и условия базовой модели. Разработчик позиционирует её как исследовательскую: точность, безопасность и этичность ответов не гарантируются, возможны галлюцинации и неподходящий контент, а коммерческое и критически важное применение не предполагается.