II.2Создание и понимание программного кода

Rombo-LLM-V2.7-llama-3.2-3b — языковая модель Rombo-Org на архитектуре LlamaForCausalLM с 3,2 млрд параметров. По карточке, она объединяет предварительно обученную и instruct-настроенную версии Llama 3.2 3B; метаданные указывают базовую модель meta-llama/Llama-3.2-3B-Instruct и связь fine-tuning. Модель предназначена для генерации текста и диалогов, а также может использоваться для дальнейшего дообучения или инференса без дополнительной настройки. Модель работает с текстом, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors через библиотеку Transformers. Карточка не уточняет языки и результаты оценки качества; метаданные характеризуют базовую модель как мультиязычную. Лицензия — Llama 3.2, поэтому использование регулируется её условиями.

SauerkrautLM-v2-14b-SFT — языковая модель VAGO solutions, дообученная на базе Qwen/Qwen2.5-14B методом Spectrum Fine-Tuning в два этапа. Это плотная авторегрессионная архитектура Qwen2 с 14 млрд параметров и контекстом до 32 768 токенов; репозиторий содержит веса safetensors. Модель предназначена для диалогов и следования инструкциям, генерации текста, математических рассуждений, вызова функций и задач на здравый смысл. Разработчики сообщают об улучшениях математических способностей, работы с функциями и многоязычной генерации. В README явно названы немецкий и английский, а метаданные также перечисляют итальянский, французский, португальский, нидерландский, арабский и испанский. Модель распространяется по лицензии Apache 2.0. Авторы предупреждают, что фильтрация данных не исключает появления неподходящего или некорректного контента; стабильно безопасное поведение не гарантируется.

JetLM/SDAR-4B-Chat-b32 — диалоговая языковая модель семейства SDAR, разработанная на основе сочетания авторегрессионного моделирования и дискретной диффузии. В репозитории указаны 3,7 млрд параметров, архитектура SDARForCausalLM и контекст до 32 768 токенов; веса представлены в формате safetensors. Модель предназначена для генерации ответов в диалоге и других задач генерации текста. В карточке также заявлен интерфейс для вызова инструментов. SDAR сочетает обучение по авторегрессионной схеме с параллельным выводом на основе диффузии. Авторы сообщают о сопоставимых с сильными авторегрессионными моделями результатах на общих задачах и преимуществах на отдельных научных задачах рассуждения; эти выводы относятся к представленным в README экспериментам и не гарантируют таких результатов именно для этой версии 4B. Модель опубликована под лицензией Apache-2.0.

T3qm7xNeuralsirkrishna_Strangemerges_32Alloyingotneoy — объединённая авторами Automerger модель семейства Mistral для генерации текста и диалогов. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст; в карточке указана задача text-generation. Модель объединяет веса automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Alloyingotneoy-7B. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Zamba2-2.7B-Instruct — разговорная модель Zyphra для следования инструкциям и генерации текста. Она получена дообучением Zamba2-2.7B: сначала SFT на наборах UltraChat 200k и Infinity-Instruct, затем DPO на UltraFeedback Binarized, Orca DPO Pairs и OpenHermesPreferences. Модель использует гибридную архитектуру Mamba2 и Transformer: слои Mamba2 чередуются с общими слоями внимания; также применяются LoRA-проекции общего MLP. В репозитории указано 5,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для диалогов, выполнения инструкций, ответов на вопросы, рассуждений и других общих текстовых задач, включая локальное использование на устройствах. Разработчик заявляет о высокой скорости генерации и меньших требованиях к памяти по сравнению с сопоставимыми Transformer-моделями. Для оптимизированного запуска нужны совместимые версии Transformers, mamba-ssm и causal-conv1d; без оптимизированных ядер Mamba2 задержка и расход памяти заметно выше. В README также отмечена возможная неполная совместимость временной реализации с некоторыми фреймворками и инструментами. Лицензия — Apache-2.0.

Agents-A1-Flash — сжатый выпуск модели InternScience/Agents-A1, опубликованный SofiTesfay2010. Это разреженная MoE-модель семейства Qwen3.5 с 35 млрд параметров, 256 экспертами и 8 активными экспертами на токен; каталог указывает архитектуру Qwen3_5MoeForConditionalGeneration и возможность диалога. Релиз сочетает разреженное тернарное сжатие STQ1_0 для маршрутизируемых экспертов, FP8 для внимания и общих экспертов и FP16 для нормализаций и векторов. По README, размер весов уменьшен примерно с 70 до 8,19 ГБ; заявлены варианты размещения с кэшированием и полной загрузкой в память видеокарты. Модель предназначена для генерации текста и диалогового использования, унаследовав базу для многошаговых агентных задач, научных рассуждений, поиска и вызова инструментов. Карточка не описывает языки, длину контекста и качество после сжатия. Указана лицензия «other», поэтому конкретные условия использования следует проверять в лицензии репозитория.

Trinity-Large-Preview-GGUF — это квантизированная версия языковой модели Trinity-Large-Preview, разработанной arcee-ai. Квантизацию в формате GGUF выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель поддерживает английский, испанский, французский, немецкий, итальянский, португальский, русский, арабский, хинди, корейский и китайский языки. Она рассчитана на сценарии текстовой генерации, включая диалоговое взаимодействие и выполнение инструкций в соответствии с указанным шаблоном prompt format. Данные о точной архитектуре, количестве параметров, модальностях и размере контекста в README не приведены; по описанию это текстовая, а не мультимодальная модель. Доступно множество вариантов квантизации от Q8_0 до Q3 и IQ3/IQ4, что позволяет выбирать между качеством и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми указаны варианты Q6_K, Q5_K и Q4_K, тогда как низкоразрядные варианты экономят память, но снижают качество. Размеры файлов составляют примерно от 162 до 424 ГБ, поэтому модель требует значительных аппаратных ресурсов. Лицензия — Apache-2.0.

Bielik-Minitron-7B-v3.0-Instruct — генеративная языковая модель команды SpeakLeash и центра ACK Cyfronet AGH, созданная при участии NVIDIA. Это причинная декодерная модель с 7,35 млрд параметров для диалогов и выполнения инструкций; она использует шаблон чата ChatML и распространяется в формате Safetensors для Transformers. Модель получена сжатием и дообучением Bielik-11B-v3-Base-20250730: структурная обрезка и дистилляция знаний сократили число параметров на 33,4%, после чего модель прошла настройку инструкций и выравнивание предпочтений. Она предназначена для генерации ответов и решения языковых задач на европейских языках; особое внимание при обучении уделено польскому. Авторы сообщают о восстановлении примерно 90% производительности исходной модели и ускорении вывода до 50%. Лицензия Apache 2.0. Модель может ошибаться и выдавать предвзятый, оскорбительный или иной нежелательный текст; встроенных механизмов модерации нет. Ее ответы не следует считать проверенными фактами.

Gemma 4 12B IT GGUF — квантизированная версия инструкционно дообученной модели google/gemma-4-12B-it, подготовленная bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель относится к классу image-text-to-text и предназначена для обработки запросов с текстом и изображениями, а также генерации ответов в диалоговых и прикладных сценариях, поддерживаемых исходной моделью и используемым программным обеспечением. Доступны варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4, Q3 и Q2, размером примерно от 5,3 до 23,8 ГБ. Более высокие уровни квантования сохраняют качество, но требуют больше памяти; низкие позволяют запускать модель на менее производительном оборудовании ценой снижения качества. Репозиторий ориентирован на локальный запуск через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Формат prompt использует специальные токены Gemma. В README не указаны архитектурные детали, длина контекста, поддерживаемые языки, точный перечень мультимодальных возможностей и результаты бенчмарков, поэтому эти характеристики нельзя надёжно оценить по представленным данным. Для использования следует учитывать совместимость конкретного инструмента с моделью и выбранным вариантом квантования. В метаданных указана лицензия Apache 2.0 и приведена отдельная ссылка на лицензию Gemma.

Intel/GLM-5.3-Flash-W4A16-AutoRound — это квантованная версия языковой модели GLM-5.3-Flash, разработанная Intel с использованием инструмента Intel Auto-Round в режиме Tuning. Базовая модель опубликована организацией zai-org. Модель предназначена для генерации текста и может применяться в задачах обработки естественного языка, включая работу с английским и китайским языками. В карточке указаны библиотека Transformers и тип задачи text-generation. Модель использует формат квантования INT4 по схеме W4A16, то есть веса представлены в 4-битном формате, а активации — в 16-битном. По приведённым тестам её средний результат составляет 0,8386 против 0,8399 у версии BF16, что соответствует 99,84% относительного качества; результаты также приведены для GSM8K, MMLU, PIQA и HellaSwag. Такое квантование потенциально снижает требования к памяти и облегчает развёртывание, однако README не содержит сведений о размере модели, архитектуре, длине контекста, поддерживаемых модальностях или системных требованиях. Модель может генерировать фактически неверные, предвзятые, оскорбительные или непристойные ответы, поэтому перед использованием необходимы тестирование безопасности и оценка пригодности для конкретного сценария. В карточке указана лицензия MIT, при этом рекомендуется соблюдать лицензию исходной модели; юридические условия коммерческого использования следует проверить отдельно.

GPT-6 Luna Pro — вариант GPT-6 Luna от OpenAI, работающий с параметром reasoning.mode, установленным в pro. Он предназначен для получения более качественных ответов на сложные задачи. README описывает его как ту же базовую модель GPT-6 Luna с режимом рассуждения pro. Доступные данные не содержат сведений об архитектуре, размере, контексте, языках или лицензии, поэтому эти характеристики нельзя уточнить. Метаданные каталога относят модель к задаче image-text-to-text, однако README не описывает работу с изображениями.

WorldSim-Opus-3.6-35B-A3B-GGUF — это квантизированная версия языковой модели Gryphe/WorldSim-Opus-3.6-35B-A3B, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель ориентирована на диалоговое общение, работу по инструкциям, ролевые сценарии, reasoning и творческое письмо. Обучение или дообучение связано с датасетом Gryphe/Opus-4.6-Reasoning-24k. Модель основана на архитектуре Qwen3.6 MoE; в названии указана конфигурация 35B-A3B. README сообщает о поддержке английского языка и текстовом формате взаимодействия через ChatML с шаблоном, включающим секцию рассуждений <think>. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ; размеры файлов составляют примерно от 16,9 до 69,38 ГБ. Более качественные варианты требуют больше памяти, а младшие квантизации предназначены для ограниченных ресурсов и могут снижать качество. Модель можно запускать локально через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Контекстное окно, точные требования к оперативной или видеопамяти, мультимодальные возможности и результаты бенчмарков в README не указаны. Репозиторий распространяется по лицензии Apache-2.0.

Это преобразованная в формат MLX версия языковой модели Llama 3 8B Instruct с контекстом до 262 144 токенов. Репозиторий подготовлен сообществом mlx-community на основе gradientai/Llama-3-8B-Instruct-262k с помощью mlx-lm 0.12.0; модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она предназначена для диалоговой генерации текста и работы с длинными текстовыми контекстами. Метаданные указывают английский язык и поддержку чата. Репозиторий содержит веса safetensors в формате MLX; лицензия в доступных данных не приведена.

MeliodasPercival_01_Inex12Neural — объединённая модель для генерации текста и диалогов, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Inex12Neural-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и генерирует текст; её можно использовать для диалогов и других сценариев продолжения текста. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache 2.0.

Карточка модели Crystalcareai/meta-llama-3.1-8b на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B, поэтому описание составлено по ней. NousResearch/Meta-Llama-3.1-8B — текстовая авторегрессионная модель семейства Llama 3.1, разработанная Meta и опубликованная в репозитории NousResearch. Это плотный трансформер LlamaForCausalLM с 7,5 млрд параметров, механизмом Grouped-Query Attention и контекстом до 131 072 токенов; веса представлены в формате safetensors и предназначены для работы с Transformers. Модель генерирует текст по текстовому запросу. Она подходит для диалогового помощника на нескольких языках, ответов на вопросы, написания и преобразования текста, а также для адаптации к задачам генерации естественного языка. В карточке указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Для семейства Llama 3.1 заявлены коммерческое и исследовательское применение; условия использования определяет лицензия Llama 3.1 Community License и связанная с ней политика допустимого использования. Это предобученная модель, а не версия, настроенная для следования инструкциям: указанное в README SFT и RLHF относится к instruction-tuned версиям семейства. Как и другие языковые модели, она может выдавать неточные или небезопасные ответы; для прикладного использования нужны проверка результатов и меры безопасности. Указания README ограничивают применение поддерживаемыми языками, если модель не дообучена для других языков.

MISCHIEVOUS-12B-Mix_Neo — объединённая языковая модель на архитектуре Mistral, созданная автором bamec66557 методом SLERP с помощью mergekit из моделей MISCHIEVOUS-12B-Mix_0.4v и MISCHIEVOUS-12B-Mix_0.5v. Модель содержит 12,1 млрд параметров и предназначена для генерации текста в диалоговых сценариях; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Заявленная длина контекста — до 1 024 000 токенов. Лицензия — Apache-2.0. В README приведены результаты оценки на Open LLM Leaderboard, включая средний балл 25,80 и результат IFEval 62,50; эти показатели не гарантируют качество на конкретных пользовательских задачах.

NeuralKrishna-7B-v3 — объединённая модель для генерации текста, созданная Kukedlc с помощью LazyMergekit. В конфигурации указана база mlabonne/Monarch-7B и слияние методом DARE-TIES с NeuralGlitch-Yam-Peleg-7B-DT, Fasciculus-Arcuatus-7B-slerp и Neural4gsm8k; веса сохранены в формате bfloat16. Метаданные указывают архитектуру Mistral с плотной сетью из 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и решения задач на рассуждение, включая математические вопросы, благодаря включённой в слияние Neural4gsm8k. Поддерживаемый язык в источниках не указан. Модель распространяется по лицензии Apache-2.0.

mychen76/openmixtral-6x7b-v2 — текстовая генеративная модель семейства Mixtral с архитектурой MoE, представленная в формате safetensors. Согласно карточке, это квантизированная версия openmixtral-6x7b-merged_v2, созданной слиянием шести моделей размером 7B. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и может применяться для ответов на вопросы, рассуждений и продолжения текстовых запросов. В карточке приведены результаты Open LLM Leaderboard, включая оценки AI2 Reasoning Challenge и HellaSwag. Язык модели отдельно не указан. Репозиторий распространяется по лицензии Apache-2.0.

facebook/opt-iml-1.3b — языковая модель семейства OPT, разработанная Meta AI и дообученная следованию инструкциям методом Instruction Meta-Learning. Модель с плотной архитектурой и примерно 1,7 млрд параметров предназначена для генерации текста по запросу; её можно использовать через библиотеку Transformers. Контекст модели составляет 2048 токенов. Обучение проводилось на OPT-IML Bench — наборе примерно из 2000 задач обработки естественного языка, собранных из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource. Семейство включает варианты, обученные на 1500 задачах с отложенными задачами для оценки, и OPT-IML-Max, обученный на всех примерно 2000 задачах. В карточке для этой модели не уточнено, какой из вариантов имеется в виду. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели. Модель подходит для ответов на инструкции, генерации и преобразования текста в широком круге NLP-задач. Как и другие крупные языковые модели, она может выдавать фактически неверные ответы, токсичный текст и воспроизводить стереотипы; результаты требуют проверки.

QandoraExp-7B — языковая модель для генерации текста, созданная bunnycore с помощью слияния нескольких предварительно обученных моделей методом Della через mergekit. В качестве базовой использована Qwen/Qwen2.5-7B; в слияние также вошли Etherll/Qwen2.5-7B-della-test, jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.0 и fblgit/cybertron-v4-qw7B-MGS. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и имеет контекстное окно до 131 072 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалоговой генерации текста и предоставляет интерфейс для вызова инструментов. В README приведены результаты оценок Open LLM Leaderboard: среднее значение 28,51, IFEval — 75,09 и BBH — 35,92. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя. Результаты приведённых оценок не гарантируют качество на конкретных задачах; также карточка не описывает отдельные ограничения модели.

Qwen3-4B-Kimi2.5-Reasoning-Distilled-GGUF — языковая модель для генерации текста и структурированного рассуждения, разработанная khazarai. Она создана на основе Qwen3-4B-Thinking-2507 и дообучена методом дистилляции на данных, сгенерированных моделью Kimi-2.5-Thinking, с использованием Unsloth и QLoRA. Объём обучающего набора составляет 250 примеров и около 1,11 млн токенов. Модель предназначена для задач, требующих пошагового анализа, разбиения сложных проблем на этапы, самопроверки и подготовки подробных аналитических ответов. Она ориентирована на сочетание небольшого размера и сравнительно развитых возможностей рассуждения, поэтому может использоваться в сценариях локального запуска и приложениях, где важны умеренные требования к ресурсам. В метаданных указаны текстовая генерация и английский язык; сведения о поддерживаемой длине контекста и дополнительных модальностях отсутствуют. Модель распространяется в формате GGUF с вариантами BF16, Q8_0, Q6_K и Q4_K_M, различающимися размером, скоростью и качеством. Для Q4_K_M заявлен размер около 2,5 ГБ, для Q6_K — 3,3 ГБ, для Q8_0 — 4,2 ГБ, для BF16 — 8 ГБ. В README приведён результат 76,09 из 100 на khazarai/Multi-Domain-Reasoning-Benchmark, однако независимые результаты и подробная методика оценки не указаны. Ограничениями являются небольшой объём модели по сравнению с крупными системами и отсутствие данных о длине контекста, мультиязычности и типичных ошибках. Лицензия — Apache-2.0.

avyukth/Qwen3.8-27B-AWQ-INT4 — это квантизированная 4-битная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и подготовленной пользователем avyukth. Модель предназначена для генерации текста и обработки изображений с текстовыми запросами, включая визуальное чтение текста, распознавание форм, цветов и положения объектов, а также задачи рассуждения и диалоговые сценарии. Модель реализует архитектуру Qwen3.5 с классом Qwen3_5ForConditionalGeneration и содержит 27 миллиардов параметров в исходной версии. Веса Linear-модулей квантизированы по схеме symmetric W4A16 с размером группы 128, занимают около 18 ГБ на диске и требуют примерно 17,68 ГиБ видеопамяти. Vision tower, lm_head и MTP head сохранены в формате bfloat16. Заявлена работа на одной видеокарте с 24 ГБ памяти; проверено использование на RTX 3090 через vLLM. В README указана настройка с максимальной длиной контекста 8192 токена, однако поддерживаемые языки отдельно не перечислены. Сильными сторонами являются существенное уменьшение размера модели, сохранение мультимодальных возможностей и высокая измеренная точность на ограниченной выборке GSM8K: 39 из 40 задач при температуре 0. Ограничения связаны с тем, что 48 из 64 слоёв linear attention квантизированы без activation-aware scaling, vision tower не квантизирован, а некоторые проекции требуют padding и slicing в vLLM, что снижает производительность. Результат GSM8K получен только на 40 задачах и не является полноценным сравнением с исходной моделью. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели. Репозиторий содержит только квантизированные веса; авторство самой модели принадлежит команде Qwen.

TopEvolutionWiz — языковая модель для генерации текста, созданная сообществом mergekit-community путём слияния моделей методом SLERP. В слияние вошли mergekit-community/TopEvolution и lucyknada/microsoft_WizardLM-2-7B; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель доступна в формате Safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации ответов и диалогового взаимодействия. Конфигурация слияния задаёт V-образное распределение весов: вклад Hermes используется на входе и выходе, а WizardMath — в средних слоях. Лицензия в предоставленных данных не указана.

AI21-Jamba-Reasoning-3B-GGUF — набор GGUF-квантизованных версий языковой модели AI21-Jamba-Reasoning-3B, разработанной AI21 Labs. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и сценариев, где требуется рассуждение; запуск возможен локально через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Доступны варианты от исходных BF16-весов размером 6,40 ГБ до компактных квантов IQ3 и Q3 размером примерно 1,47–1,76 ГБ, а также более качественные варианты Q4–Q8. Рекомендуемые сборки включают Q4_K_M, Q5, Q6 и другие варианты; выбор позволяет балансировать качество, скорость и требования к оперативной памяти. Формат приглашений предусматривает системное и пользовательское сообщения, а также блок <think> для рассуждений перед ответом. README не содержит сведений об архитектуре, длине контекста, поддерживаемых языках и модальностях, поэтому эти характеристики неизвестны. Более сильные квантизации обеспечивают качество, близкое к исходным весам, тогда как компактные варианты экономят память ценой снижения качества. Лицензия в представленном описании не указана.

Sakalti/beril — разговорная языковая модель, созданная слиянием моделей Qwen/Qwen2.5-0.5B-Instruct и HuggingFaceH4/zephyr-7b-beta. Для объединения применён метод SLERP с помощью mergekit; модель использует архитектуру MistralForCausalLM и состоит из 5,1 млрд параметров. Модель предназначена для генерации текста и диалогов: её можно использовать для ответов на вопросы, выполнения инструкций и создания текстовых продолжений. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Cygnis Alpha 2 (8B) v0.3 i1 GGUF — квантизированная GGUF-версия модели Cygnis-Alpha 2 8B v0.3, разработанная автором или организацией Simonc-44. Модель относится к семейству Llama 3.1 и оптимизирована для генерации текста, рассуждений и задач, где требуется сохранение сложных паттернов цепочки рассуждений (CoT). Модель предназначена для локального вывода через llama.cpp, Ollama и совместимые инструменты. Она ориентирована на английский и французский языки. Вариант i1 использует оптимизацию Imatrix, призванную повысить качество низкобитной квантизации; доступны, в частности, варианты Q6_K размером около 6,7 ГБ и рекомендуемый Q4_K_M размером около 5,0 ГБ. Архитектура, заявленный размер около 8B параметров и текстовая модальность указаны в README, но размер контекстного окна не приведён. Сильными сторонами являются локальный запуск, поддержка французского и английского языков, а также направленность на рассуждения при сниженной потребности в памяти благодаря квантизации. Ограничения включают возможную потерю качества по сравнению с полной точностью и отсутствие в предоставленных данных количественных результатов тестирования, подробных сведений об архитектуре и контекстном окне. Модель распространяется по лицензии Apache-2.0.

Eclipse-13B-dpo — языковая модель Xenon1, созданная дообучением Mistral-7B-v0.1 на датасете UltraFeedback с применением методов из статьи Self-Rewarding Language Models. Она предназначена для генерации текста и выполнения инструкций в диалоговом формате; для запросов используется шаблон с токенами [INST] и [/INST], также доступный через apply_chat_template(). В основе указана архитектура Mistral с Grouped-Query Attention, Sliding-Window Attention и токенизатором Byte-fallback BPE; метаданные классифицируют веса как MixtralForCausalLM с архитектурой MoE и указывают 7,1 млрд параметров. Контекст составляет 32 768 токенов, формат весов — safetensors, основной язык карточки — английский. Модель распространяется по лицензии Apache-2.0.

Experiment26Yam_Experiment27Pastiche — объединённая текстовая модель, созданная на основе automerger/Experiment26Yam-7B и automerger/Experiment27Pastiche-7B. Она предназначена для генерации текста и диалоговых ответов, в том числе с использованием длинного контекста до 32 768 токенов. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Веса представлены в формате safetensors. Модель опубликована под лицензией Apache-2.0. README и метаданные не описывают специализацию по предметным областям или дополнительные ограничения.

FuseQwQen-7B — объединённая разговорная языковая модель от bunnycore на архитектуре Qwen2. Она создана методом линейного слияния нескольких моделей, включая FuseChat-Qwen-2.5-7B-Instruct, QwQ-LCoT-7B-Instruct, cybertron-v4-qw7B-UNAMGS и модель с адаптером Persona. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленный контекст — до 32 768 токенов. Модель предназначена для диалога и генерации ответов, в том числе с опорой на инструкции и рассуждения. В карточке приведены результаты Open LLM Leaderboard, однако данных недостаточно, чтобы подтвердить конкретный уровень качества в отдельных сценариях. Использование предполагает библиотеку Transformers и формат safetensors. Лицензия в предоставленных данных не указана.

testmoto/gemma-2-9b-platypus-02 — текстовая модель на архитектуре Gemma 2, полученная конвертацией google/gemma-2-9b в формат MLX с помощью mlx-lm 0.20.2. Модель содержит 9 млрд параметров и предназначена для генерации текста; базовая Gemma 2 также поддерживает диалоги, суммаризацию и ответы на вопросы. Модель принимает текст и генерирует текст. Длина контекста составляет 8192 токена. В метаданных указана лицензия Gemma. README описывает использование через mlx-lm; отдельные сведения о дообучении или специализированных возможностях этой версии отсутствуют.