I.5Создание и редактирование текста

Ice0.41-22.11-RP — диалоговая модель генерации текста на базе Mistral-7B-Instruct-v0.2, созданная объединением этой модели с LoRA-адаптером Ice0.40-lora. Она предназначена для ведения диалога и генерации ответов по текстовым запросам. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Доступны веса в формате safetensors; для работы используется библиотека Transformers. Модель опубликована под лицензией CC BY-NC 4.0, которая не разрешает коммерческое использование. В README не описаны специализация адаптера, поддерживаемые языки или результаты оценки качества.

ice-AI-i1-GGUF — это набор квантованных вариантов модели ice-AI, разработанной darkps и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Представлены файлы с различными уровнями квантования, поэтому модель можно запускать на системах с разным объёмом доступной памяти и выбирать компромисс между размером, скоростью и качеством. В репозитории доступны варианты от i1-IQ1_S размером около 2,2 ГБ до i1-Q6_K размером около 6,8 ГБ. Для некоторых вариантов указаны преимущества и ограничения: Q4_K_M обозначен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по соотношению размера, скорости и качества, а отдельные низкобитные варианты характеризуются более низким качеством. Точная архитектура, число параметров, размер контекста, перечень языков и мультимодальные возможности в README не указаны; по описанию модель является текстовой и не поддерживает заявленные мультимодальные сценарии. Лицензия — Apache-2.0.

ilsp_Llama-Krikri-8B-Instruct-GGUF — это набор GGUF-квантизованных версий инструкционной языковой модели Llama-Krikri-8B-Instruct, разработанной ilsp. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговых и других сценариях, поддерживающих формат инструкций Llama 3.1, включая запуск локально через llama.cpp, LM Studio и совместимые проекты. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и заявлена для греческого и английского языков. Доступны варианты от F32 и F16 до различных форматов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Более крупные варианты обычно сохраняют более высокое качество, а компактные требуют меньше оперативной памяти; в README рекомендуются, среди прочих, Q6_K_L, Q6_K, Q5 и Q4_K_M. Точный размер контекста в предоставленных данных не указан. Основные преимущества — возможность локального запуска, широкий выбор компромисса между качеством и требованиями к памяти, а также поддержка CPU-инференса и аппаратных конфигураций, совместимых с llama.cpp. Ограничения связаны с потерями качества в более агрессивно квантизованных версиях, отсутствием заявленной мультимодальности и неизвестным размером контекстного окна. Лицензия указана как llama3.1.

IndoBART-v2 — предварительно обученная языковая модель для индонезийского языка, разработанная командой авторов IndoBART и основанная на архитектуре BART. Модель обучена на текстовом корпусе Indo4B-Plus объёмом 26 ГБ с использованием стандартной для BART задачи предобучения. В метаданных указаны архитектура mBART, класс MBartForConditionalGeneration, 87,3 млн параметров и контекст до 1024 токенов. Модель предназначена для задач преобразования текста, в частности для генерации и обработки индонезийского текста в сценариях text-to-text; её можно дообучать под конкретные задачи. Репозиторий содержит веса PyTorch. Лицензия — MIT. README приводит иное число параметров — 132 млн, поэтому размер модели в источниках расходится.

INEX4-7b — языковая модель, созданная Liminerity с помощью mergekit путём слияния моделей liminerity/merge2 и liminerity/merge1. Она предназначена для генерации текста и решения задач на рассуждение; в карточке приведены результаты оценивания на Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Опубликованные веса доступны в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

Infinity-Instruct-3M-0613-Mistral-7B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), дообученная на наборах инструкций Infinity-Instruct-3M и Infinity-Instruct-0613. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров с контекстом 32 768 токенов, предназначенная для диалогов и следования инструкциям. Она принимает текст и генерирует текст; карточка указывает английский язык. Модель обучена методом supervised instruction tuning без обучения с подкреплением по человеческим оценкам (RLHF). Авторы сообщают о результатах 25,5 на AlpacaEval 2.0 и 8,1 на MT-Bench, сопоставляя её с рядом более крупных и близких по размеру моделей. Эти результаты приведены авторами и не гарантируют качество на пользовательских задачах. Модель подходит для многошаговых диалогов, ответов на вопросы, написания текстов, а также задач по коду и математике. В README нет подробных сведений об ограничениях по конкретным сценариям; авторы предупреждают, что точность ответов не гарантируется. Лицензия метаданных — Apache-2.0, однако README ограничивает использование связанных ресурсов, включая веса, академическими исследованиями и запрещает коммерческое применение; это ограничение следует учитывать при использовании модели.

Infinity-Instruct-7M-Gen-Llama3.1-70B — разговорная модель Beijing Academy of Artificial Intelligence (BAAI), дообученная на наборах Infinity-Instruct-7M и Infinity-Instruct-Gen. Это плотная авторегрессионная модель семейства Llama 3.1 с 69,5 млрд параметров; она генерирует текст по инструкциям и использует шаблон диалога Llama 3 Instruct. Контекстное окно составляет 8192 токена. Модель предназначена для диалогов и выполнения пользовательских инструкций. Разработчики сообщают о результатах на AlpacaEval 2.0 и Arena-Hard, сопоставимых с GPT-4, однако приведённые в карточке сведения не гарантируют качество в конкретных сценариях. Обучение проводилось без RLHF. В метаданных указан английский язык. Модель распространяется для академических исследований; коммерческое использование запрещено лицензией llama3.1 и условиями проекта.

Infinity-Instruct-7M-Gen-Llama3_1-8B-GGUF — набор GGUF-квантизованных версий языковой модели Infinity-Instruct-7M-Gen-Llama3_1-8B, разработанной BAAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель обучалась на датасете BAAI/Infinity-Instruct. Модель предназначена для генерации текста и работы с инструкциями, а также для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель рассчитана на 8 миллиардов параметров и поддерживает текстовый ввод и вывод на английском языке. В репозитории представлены варианты от F16 до низкобитных Q2–Q8 и IQ-квантизаций, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размеры файлов варьируются примерно от 3,5 до 16,1 ГБ; наиболее качественными в README названы варианты Q6 и Q5, а Q4_K_M указан как сбалансированный вариант по размеру и качеству. Сильная сторона набора — возможность локального использования на оборудовании с разным объёмом памяти благодаря широкому выбору квантизаций. Ограничения связаны с потерей качества в низкобитных вариантах, а также с тем, что README не содержит данных о максимальной длине контекста, подробной архитектуре, результатах бенчмарков и поддержке других языков или модальностей. Лицензия указана как llama3.1.

Ingot-7b-slerp-4 — объединённая модель семейства Mistral, созданная методом slerp с помощью LazyMergekit из 222gate/Blurred-Beagle-7b-slerp и andrijdavid/Macaroni-7b-Tied. Она предназначена для генерации текста и диалогового взаимодействия; модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Карточка не описывает специальные предметные области или дополнительные возможности помимо генерации текста и чата. Базовые модели каталога ориентированы на генерацию англоязычного текста. Лицензия в предоставленных данных не указана.

InnerI-sn6-merge-7B-slerp — объединённая языковая модель, опубликованная пользователем InnerI на Hugging Face. Она создана методом SLERP с помощью LazyMergekit из моделей tomaszki/nous-thirty и lgodwangl/test6; базовой в конфигурации указана tomaszki/nous-thirty. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,1 млрд параметров и принимает текст для генерации текста. Метаданные указывают контекст до 32 768 токенов и возможность диалогового общения. Модель подойдёт для генерации продолжений и ответов в текстовом чате. В README приведена оценка средней потери 6,566, но методика описана лишь кратко, поэтому этот показатель сам по себе не позволяет судить о качестве в прикладных задачах. Опубликована в формате safetensors; лицензия в предоставленных данных не указана.

Карточка модели TULLUS/Instella-MoE-16B-A3B-Think на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

INTELLECT-1-Instruct-GGUF — набор GGUF-квантизированных версий инструкционной языковой модели INTELLECT-1-Instruct от PrimeIntellect. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель предназначена для генерации текста по инструкциям и может запускаться локально, в том числе через LM Studio. Доступны варианты от полноразмерных F32 и F16 до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ4. Размер файлов составляет примерно от 5,6 до 40,85 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Указан английский язык; поддерживаются текстовые сценарии, включая общение по инструкциям, программирование, математику и работу с данными обучения, перечисленными в карточке. Архитектура, число параметров, максимальный контекст и мультимодальные возможности в README не указаны. Сильная сторона набора — широкий выбор квантизаций для локального запуска и наличие вариантов, оптимизированных для отдельных ARM-конфигураций. Ограничения зависят от выбранного варианта: более компактные квантизации могут снижать качество, а некоторые ARM-версии требуют конкретных аппаратных возможностей и не рекомендуются для Mac или GPU. Модель распространяется по лицензии Apache-2.0.

Intellplay-Llama-3-8B — объединённая языковая модель на архитектуре Llama, созданная с помощью mergekit из Sao10K/L3-8B-Stheno-v3.2, vicgalle/Roleplay-Llama-3-8B и bunnycore/SparrowMind-8B. Она предназначена для генерации текста и диалогов, включая ролевые беседы и написание историй. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст; контекст — до 8192 токенов. В карточке указан формат safetensors и лицензия Apache-2.0. README также упоминает GGUF, но не содержит сведений о готовом файле такого формата.

InternLM2.5-20B-Chat GGUF — большая языковая чат-модель в формате GGUF, разработанная Shanghai AI Laboratory (上海人工智能实验室) и представленная для запуска с помощью llama.cpp. Она предназначена для локального и облачного инференса, ведения диалогов, генерации текста и интеграции в сервисы через совместимый с OpenAI API сервер llama-server. В README также показан сценарий вызова функций, например получения текущей погоды через внешний инструмент. Модель имеет размер 20B параметров и поддерживает несколько вариантов точности и квантования, включая FP16, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В качестве языков указано English, а в примере системного промпта заявлена способность общаться на английском и китайском языках. README демонстрирует контекст размером 4096 токенов и рекомендует использование аппаратного ускорения, включая CUDA; конкретные требования к ресурсам не указаны. Сильными сторонами модели являются возможность локального развёртывания на различных аппаратных платформах, наличие низкобитных версий и поддержка чатового взаимодействия, вызова функций и OpenAI-совместимого API. Ограничения включают отсутствие подробных данных о качестве, обучающих данных, точных языковых возможностях и рекомендуемых ресурсах, а также то, что результаты зависят от выбранной точности, конфигурации llama.cpp и параметров инференса. Модель распространяется по лицензии Apache-2.0.

chujiezheng/internlm2-chat-7b-ExPO — диалоговая языковая модель семейства InternLM2, созданная методом Weak-to-Strong Extrapolation (ExPO) на основе internlm2-chat-7b и чекпойнтов SFT и DPO/RLHF. Разработчик сообщает, что экстраполяция с alpha = 0.5 усиливает согласование ответов с человеческими предпочтениями. Модель содержит 7,4 млрд параметров, использует плотную архитектуру InternLM2ForCausalLM и принимает текстовые запросы, выдавая текстовые ответы в формате чата. Контекстное окно — 32 768 токенов; в карточке указаны английский и китайский языки. В README приведены сравнительные результаты ExPO на AlpacaEval 2.0 и MT-Bench, но они относятся к нескольким другим моделям, к весам которых применяли ExPO, и не являются прямой оценкой этого чекпойнта. Модель предназначена для диалогов и генерации ответов с учетом человеческих предпочтений. Лицензия указана как other, поэтому конкретные условия использования следует сверить с файлами репозитория.

Карточка модели internlm/internlm-xcomposer-vl-7b на Hugging Face совпадает с карточкой internlm/internlm-xcomposer-7b, поэтому описание составлено по ней. InternLM-XComposer-7B — мультимодальная модель семейства InternLM-XComposer, разработанная командой InternLM на основе InternLM. Это плотная авторегрессионная модель примерно на 6,9 млрд параметров с контекстом 2048 токенов, представленная в формате PyTorch и распространяемая по лицензии Apache-2.0. Модель предназначена для понимания изображений и текста, работы в роли ИИ-ассистента и создания материалов, в которых текст чередуется с изображениями. Она может составлять связные тексты по инструкциям, предлагать места для изображений, описывать визуальный контент и выбирать подходящие изображения. Карточка сообщает о мультиязычном обучении и результатах на англоязычных и китайских мультимодальных тестах. Для непосредственного понимания визуального содержимого модель принимает текст и изображения и формирует текстовые ответы. Указанное описание композиции с изображениями включает поиск и выбор изображений; карточка не уточняет, выдаёт ли этот репозиторий сами изображения. Данные о конкретных ограничениях применения не приведены.

JackRussell — слитая языковая модель семейства Mistral, созданная сообществом mergekit из OpenPipe/mistral-ft-optimized-1218 и mlabonne/NeuralHermes-2.5-Mistral-7B. При слиянии методом passthrough использованы слои 0–31 первой модели и слои 24–31 второй; модель предназначена для генерации текста и диалоговых сценариев. Модель имеет плотную архитектуру MistralForCausalLM, около 8,9 млрд параметров и контекстное окно до 32 768 токенов. Репозиторий содержит веса Safetensors; метаданные указывают библиотеку Transformers. Информация о поддерживаемых естественных языках и специализированной предметной области не приведена. Модель может использоваться для генерации продолжений текста и ответов в чате. Качество конкретных задач и поведение слитых компонентов отдельно не описаны. Лицензия в предоставленных данных не указана.

Jais-13b — предварительно обученная двуязычная языковая модель на 13 млрд параметров, разработанная Inception, Университетом искусственного интеллекта имени Мохаммеда бин Заида (MBZUAI) и Cerebras Systems. Она предназначена для генерации текста на арабском и английском языках и может служить основой для дообучения под прикладные задачи, включая чат-ассистентов и поддержку клиентов. Модель использует декодерную архитектуру Transformer типа GPT-3 с активацией SwiGLU и позиционными представлениями ALiBi. Обучение проводилось на 395 млрд токенов, включая арабский, английский и код. Для загрузки требуется пользовательский класс модели и параметр trust_remote_code=True; в README приведён пример для Transformers 4.28.0. Модель ориентирована на арабский и английский языки; равное качество для других языков и диалектов не предполагается. Как и другие большие языковые модели, она может выдавать неверную, вводящую в заблуждение или оскорбительную информацию, поэтому её ответы не следует использовать как единственное основание для важных решений. Лицензия Apache 2.0 допускает использование модели в соответствии с её условиями.

Jais Adapted 7B — двуязычная языковая модель семейства Jais, разработанная Inception Institute of Artificial Intelligence и адаптированная на основе Meta Llama 2 7B. Это базовая модель с причинной архитектурой Decoder, предназначенная для генерации текста на арабском и английском языках. Семейство ориентировано на задачи арабской обработки естественного языка и приложения для арабоязычных и двуязычных пользователей. Модель подходит для генерации и понимания текста, суммаризации арабско-английских документов и дальнейшей адаптации под прикладные задачи. Карточка указывает на необходимость загрузки с пользовательским классом модели и параметром trust_remote_code=True. Модель распространяется по лицензии Apache 2.0. Ограничения включают возможные ошибки, предвзятость и оскорбительные или вводящие в заблуждение ответы. Её не следует считать равноэффективной на других языках и диалектах или применять для высокорисковых решений без участия человека; карточка также предостерегает от обработки персональных и конфиденциальных данных.

QuantFactory/jais-adapted-7b-chat-GGUF — квантизированная версия диалоговой модели Jais-adapted-7b-chat, созданная с помощью llama.cpp на основе модели inceptionai/jais-adapted-7b-chat. Семейство Jais разработано компаниями Inception и Cerebras Systems и ориентировано прежде всего на обработку арабского языка при сохранении сильных возможностей для английского языка. Модель предназначена для генерации текста и ведения диалогов, включая ответы на инструкции, работу с арабскими и англоязычными запросами и создание двуязычных текстов. Это авторегрессионная языковая модель с архитектурой Transformer decoder-only, построенная на базе Llama 2. Размер составляет 7B параметров, максимальная длина контекста — 4096 токенов. Модель работает только с текстом; заявленные языки — арабский, включая Modern Standard Arabic, и английский. Семейство обучалось на данных на арабском и английском языках, а также на коде. Сильной стороной модели является специализация на арабском языке в сочетании с поддержкой английского и диалоговой настройкой. Квантизация в формате GGUF может снизить требования к памяти и упростить локальный запуск, однако README не содержит сведений о конкретном варианте квантизации, производительности или результатах бенчмарков; квантизация также может влиять на качество генерации. Условия использования — лицензия Apache 2.0.

inception42/jais-family-1p3b — двуязычная языковая модель семейства Jais, опубликованного Inception Institute of Artificial Intelligence. Семейство включает модели, обученные с нуля, и варианты, адаптированные на основе Llama 2; README не уточняет, к какой группе относится этот чекпойнт и каков его точный размер. Модель предназначена для генерации текста на арабском и английском языках. Её можно использовать как основу для чат-ассистентов, суммаризации двуязычных документов, анализа тональности и исследований арабского NLP. В репозитории указаны архитектура causal decoder и веса Safetensors; для загрузки требуется пользовательский класс модели и параметр trust_remote_code=True. Модель может ошибаться, воспроизводить смещения и выдавать оскорбительный или вводящий в заблуждение текст. Она оптимизирована для арабского и английского, поэтому её качество на других языках не гарантируется; для важных решений требуется проверка человеком. Лицензия — Apache 2.0.

Jais Family — семейство двуязычных языковых моделей, разработанное Inception и Cerebras Systems. Репозиторий inception42/jais-family-256m содержит текстовую авторегрессионную модель семейства JAIS для генерации текста; в метаданных указана архитектура JAISLMHeadModel, плотная архитектура и контекст до 2048 токенов. README описывает семейство, обученное с нуля или адаптивно на основе Llama 2, однако не уточняет размер 256M и вариант происхождения именно этой модели. Модель ориентирована на арабский язык (современный литературный арабский) и английский. Её можно применять для генерации текста, диалогов, суммаризации двуязычных документов и языковых задач NLP. Веса доступны в формате safetensors, лицензия — Apache 2.0. Модель может выдавать ошибочные, вводящие в заблуждение или предвзятые ответы; результаты требуют проверки. Она не предназначена для высокорисковых решений без человеческого контроля и может работать хуже на других языках и диалектах. Для загрузки README указывает на необходимость включить trust_remote_code=True.

inception42/jais-family-6p7b — двуязычная языковая модель семейства Jais от Inception Institute of Artificial Intelligence. Это авторегрессионная decoder-only модель для генерации текста; семейство обучалось с нуля и адаптивно на базе Llama 2, но для этой конкретной копии базовая модель в метаданных не указана. Репозиторий содержит веса в формате safetensors, лицензия — Apache 2.0. Модель предназначена для генерации и понимания текста на арабском и английском языках. Её можно использовать для диалоговых помощников, суммаризации двуязычных документов, анализа тональности и исследовательских задач арабской NLP. README указывает, что для загрузки требуется пользовательский класс модели и параметр trust_remote_code=True. Семейство Jais оптимизировано для арабского языка и обладает сильными возможностями на английском. Для конкретного чекпойнта размер и длина контекста не приведены. Возможны фактические ошибки, предвзятость и неподходящие ответы; модель не следует считать одинаково компетентной на других языках и применять в высокорисковых решениях без контроля человека.

Jan-v3-4B-base-instruct-GGUF — это квантованная версия текстовой генеративной модели Jan-v3-4B-base-instruct, разработанной janhq и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста по инструкциям и может применяться в локальных сценариях работы с текстом, включая запуск через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель содержит около 4 миллиардов параметров и поддерживает текстовый ввод и вывод. В репозитории указана поддержка английского языка и тег для задач, связанных с кодом. Доступно множество вариантов квантования — от BF16 до форматов Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендованными названы, в частности, варианты Q6_K_L, Q6_K, Q5_K и Q4_K_M; для систем с ограниченными ресурсами доступны более компактные варианты, но с меньшим качеством. К сильным сторонам относятся локальный запуск, широкий выбор размеров квантованных файлов и оптимизация imatrix, направленная на сохранение качества при сжатии. Ограничения — отсутствие в README сведений об архитектуре, размере контекстного окна, точных результатах оценки, мультимодальности и поддерживаемых языках помимо английского. Для работы требуется совместимый движок с поддержкой этой модели и формата GGUF. Модель распространяется по лицензии Apache-2.0.

Jan-v1-4B-GGUF — языковая модель для генерации текста, разработанная командой Jan (Jan Community/Jan HQ). Она предназначена для агентских сценариев, рассуждений, решения задач, диалогового взаимодействия и использования инструментов, прежде всего в приложении Jan и при локальном развёртывании через совместимые средства, такие как llama.cpp. Модель основана на Jan-v1-4B, созданной на базе подходов Lucy и Qwen3-4B-Thinking-2507. Модель имеет размер 4B параметров, поддерживает английский язык и относится к классу text-generation. Формат GGUF ориентирован на локальный запуск, в том числе с llama.cpp; README также описывает интеграцию с Jan App и использование tool calling. Среди заявленных сильных сторон — улучшенные возможности рассуждения и работы с инструментами, а также результат 91,1% в SimpleQA. Рекомендуемые параметры генерации включают temperature 0.6, top_p 0.95, top_k 20 и max_tokens 2048. В README не указаны размер контекстного окна, точная схема квантования GGUF, поддерживаемые модальности помимо текста и подробные условия проведения бенчмарков, поэтому эти характеристики нельзя определить по имеющимся данным. Модель распространяется по лицензии Apache 2.0.

Jan-v1-AIO-GGUF — набор GGUF-квантованных версий моделей семейства Jan-v1, опубликованный prithivMLmods. В состав входят Jan-v1-2509, Jan-v1-edge и Jan-v1-4B, предназначенные для локального запуска через совместимые inference-движки, интеграции с приложением Jan, автономной работы и повышения приватности. Модели ориентированы на генерацию текста, агентское рассуждение, решение задач, использование инструментов, ответы на фактические вопросы и сценарии с веб-поиском. Jan-v1-4B — языковая модель на 4 млрд параметров, построенная на архитектуре Qwen3-4B-thinking и поддерживающая контекст до 256 000 токенов. Для неё заявлена точность 91,1% на бенчмарке SimpleQA. Jan-v1-edge — облегчённая модель для быстрой работы на устройствах с ограниченными ресурсами; она дистиллирована из более крупной Jan-v1 и дообучалась в два этапа: supervised fine-tuning и reinforcement learning with verifiable rewards. В README точные размеры Jan-v1-2509 и Jan-v1-edge, а также сведения о мультимодальности не указаны. Поддерживается английский язык. Доступны варианты с разными типами квантования — от Q2_K до Q8_0, а также BF16, F16 и F32, что позволяет выбирать между размером файлов, требованиями к памяти и потенциальным качеством. Размеры файлов варьируются примерно от 778 МБ до 16,1 ГБ в зависимости от модели и формата. Ограничения включают зависимость производительности от выбранного квантования и оборудования, а также отсутствие в README подробных результатов для всех вариантов. Модели распространяются по лицензии Apache-2.0.

Jan-v3-4B-base-instruct-gguf — компактная каузальная языковая модель примерно на 4 млрд параметров, разработанная Jan (Jan HQ). Модель получена методом дистилляции после обучения от более крупной модели-учителя с последующим предварительным и постобучением. Она предназначена для общего использования, улучшенного следования инструкциям, локального развёртывания, дообучения под прикладные задачи и лёгкой помощи в программировании. Модель содержит 36 слоёв и использует Grouped-Query Attention (GQA) с 32 головами для запросов и 8 для ключей и значений. Заявлена нативная длина контекста до 262 144 токенов. Указан английский язык; модель работает с текстом, а тег code и описание допускают сценарии кодирования, однако специализированная кодовая версия Jan-Code в README ещё не выпущена. GGUF-версия предназначена для запуска через llama.cpp и интеграции с Jan Desktop; также описан вариант использования через vLLM. Сильными сторонами являются компактный размер, пригодность для локального использования и дообучения, улучшенное следование инструкциям и большой контекст. Ограничения включают отсутствие подробных данных о качестве на конкретных бенчмарках, языковой поддержке за пределами английского и мультимодальных возможностях. Модель распространяется по лицензии Apache 2.0.

JetMoE-8B — открытая языковая модель семейства JetMoE, созданная Yikang Shen, Zhen Guo, Tianle Cai и Zengyi Qin. Она предназначена для генерации текста и может служить базой для дообучения и исследовательских экспериментов. Авторы сообщают, что модель обучена на 1,25 трлн токенов из общедоступных наборов данных. Архитектура состоит из 24 блоков, в каждом из которых есть слой смеси голов внимания (MoA) и слой смеси экспертов MLP (MoE). В каждом слое восемь экспертов, из которых для токена активируются два. README указывает 8 млрд параметров всего и 2,2 млрд активных параметров при выводе; метаданные Hugging Face указывают размер 1,6 млрд параметров. Модель принимает текст, генерирует текст и имеет контекстное окно 4096 токенов. Авторы заявляют о конкурентных результатах относительно ряда моделей большего размера и о сравнительно низкой стоимости обучения, однако приведённые в карточке таблицы неполны, поэтому независимо оценить эти сравнения по ней нельзя. Модель доступна в формате safetensors под лицензией Apache-2.0; карточка сообщает об открытом коде и обучении только на публичных данных.

Jet-Nemotron-4B — плотная причинно-языковая модель с 3,1 млрд параметров из семейства Jet-Nemotron. По карточке модели, семейство разработано с применением метода post-training Neural Architecture Search и использует JetBlock — блок линейного внимания, образуя гибридную архитектуру. Модель предназначена для генерации текста и диалогового взаимодействия; поддерживает контекст до 32 768 токенов и рассчитана на английский язык. Разработчики заявляют о высокой пропускной способности генерации и приводят сравнительные результаты на общих языковых бенчмарках, включая MMLU, MMLU-pro и BBH. Для работы указаны Transformers и требования к ряду дополнительных библиотек; в репозитории веса представлены в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией в карточке модели.

Это репозиторий mradermacher с GGUF-квантованными вариантами JiRackDeltaNet 27B, созданными на основе CMSManhattan/JiRackDeltaNet_27b. Репозиторий содержит статические квантизации TQ1_0 и TQ2_0 размером примерно 7,1 и 8,3 ГБ соответственно; автор указывает, что варианты с weighted/imatrix-квантизацией в этой публикации не представлены. Модель предназначена для генерации текста и диалогового использования. Метаданные базовой модели описывают её как многоязычную разговорную модель для локального CPU-инференса, кодирования, RAG и вызова инструментов; сама карточка этого GGUF-репозитория главным образом сообщает о доступных файлах квантования и их использовании. Заявлены языки английский, китайский, японский, корейский, французский, испанский, португальский, немецкий, итальянский, русский, арабский, вьетнамский и тайский. Лицензия — MIT. Квантованные файлы уменьшают требования к памяти, но TQ1_0 и TQ2_0 могут уступать исходным весам по качеству; README не приводит сравнительных оценок. Для работы с GGUF требуется совместимый загрузчик, а для многосоставных файлов — их корректная сборка.