I.14Автоматизация процессов и AI-агенты

NousResearch/Llama-2-13b-chat-hf — диалоговая языковая модель семейства Llama 2, разработанного Meta и опубликованная в формате для Transformers. Это авторегрессионная плотная модель на архитектуре Transformer с 12,9 млрд параметров, дообученная с помощью supervised fine-tuning и обучения с подкреплением на основе человеческой обратной связи. Она предназначена для диалогов в формате ассистента и генерации текста на английском языке; принимает и выдаёт текст, поддерживает контекст до 4096 токенов. Модель подходит для ответов на вопросы, ведения диалога, создания черновиков и других сценариев генерации текста. Для ожидаемого поведения чат-версии необходимо использовать предусмотренный формат сообщений Llama 2. Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед внедрением её следует проверять и настраивать под конкретное применение. Использование регулируется специальной лицензией Meta для Llama 2; для доступа к весам требуется принять её условия.

MaziyarPanahi/Llama-3-11B-Instruct-v0.1-GGUF — набор квантованных файлов модели в формате GGUF, подготовленный разработчиком MaziyarPanahi на основе MaziyarPanahi/Llama-3-11B-Instruct-v0.1. Модель предназначена для генерации текста и использования в диалоговых сценариях, включая запуск через совместимые инструменты, такие как llama.cpp. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством работы. Модель относится к семейству Llama 3 и требует использования соответствующего шаблона промпта с управляющими токенами Llama 3. В README не указаны поддерживаемые языки, размер контекста, точная архитектура базовой модели, результаты оценки, лицензия и ограничения использования.

Llama-3.1-SuperNova-Lite — плотная авторегрессионная языковая модель примерно на 7,5 млрд параметров, разработанная Arcee.ai на основе Llama 3.1 8B Instruct. Это чат-модель, дообученная с использованием дистилляции по офлайн-логитам Llama 3.1 405B Instruct и набора инструкций EvolKit-20k. Она предназначена для диалогов, следования инструкциям и широкого круга текстовых задач, когда нужна компактная альтернатива более крупным моделям. Заявленная длина контекста — 131 072 токена; модель рассчитана на английский язык и использует библиотеку Transformers с весами Safetensors. В карточке отмечены высокие результаты следования инструкциям и применение в различных сценариях, однако приведённые оценки охватывают лишь часть возможностей и не гарантируют качество для конкретной задачи. Лицензия — Llama 3.1 Community License (llama3).

MaziyarPanahi/Llama-3-8B-Instruct-32k-v0.1-GGUF — это набор файлов модели в формате GGUF для MaziyarPanahi/Llama-3-8B-Instruct-32k-v0.1. Модель создана и квантована MaziyarPanahi; исходная архитектура и точные параметры в предоставленной карточке не раскрыты, однако из названия следует, что это instruct-модель семейства Llama с заявленным размером 8B и контекстом до 32k токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Формат GGUF ориентирован на использование с llama.cpp и поддерживается, среди прочего, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и Candle; возможна работа с GPU-ускорением в зависимости от выбранного инструмента и конфигурации. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Ограничения включают возможные потери качества из-за квантования, зависимость производительности от оборудования и программного окружения, а также отсутствие в README сведений о языках, точных характеристиках архитектуры, результатах тестирования и лицензии.

Locutusque/Llama-3-Yggdrasil-8B — объединённая языковая модель на архитектуре Llama 3, созданная Locutusque с помощью mergekit и метода DARE TIES. В качестве базовой модели использована NousResearch/Meta-Llama-3-8B; в объединение также вошли инструктивная версия Meta-Llama-3-8B и две модели Locutusque — Llama-3-Hercules-5.0-8B и llama-3-neural-chat-v2.2-8b. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для генерации текста, включая диалоговые ответы и ответы на вопросы. Контекст составляет 8192 токена. Веса доступны в формате safetensors для библиотеки Transformers. Лицензия — llama3.

Poro 2 70B Instruct — разговорная модель с открытыми весами, разработанная совместно AMD Silo AI, группой TurkuNLP Университета Турку и High Performance Language Technologies (HPLT). Она дообучена методами SFT и DPO на базе Poro 2 70B Base, продолжавшей предобучение на основе Llama 3.1 70B. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для диалогов и выполнения инструкций на финском и английском языках. Она подходит для ответов на вопросы, создания текстов, образовательных и клиентских помощников, а также перевода между финским и английским. В карточке отмечены дополнительные способности к программированию и математике и интерфейс для вызова инструментов. Оценки в карточке показывают сильные результаты на финских задачах следования инструкциям при сохранении хороших результатов на английском. Модель может ошибаться, воспроизводить предубеждения обучающих данных или выдавать неподходящий и спорный контент; её навыки на языках помимо финского и английского ограничены. Лицензия — Llama 3.3 Community License.

llm-jp-4-8b-thinking-gguf — языковая модель на основе Transformer, разработанная Исследовательским центром больших языковых моделей Национального института информатики Японии (NII). Модель предназначена для генерации текста, диалоговых сценариев, решения задач и работы с инструкциями на английском и японском языках. Вариант thinking обучен с использованием supervised fine-tuning (SFT) и direct preference optimization (DPO), без reinforcement learning. Модель имеет около 8,59 млрд параметров, 32 слоя, размер скрытого состояния 4096 и 32 attention heads. Максимальная длина контекста составляет 65 536 токенов. Репозиторий содержит представление GGUF для запуска совместимых средств инференса; используется Unigram byte-fallback токенизатор на основе llm-jp-tokenizer v4.0, а шаблон чата совместим с форматом OpenAI Harmony. К сильным сторонам относятся большой контекст, поддержка японского и английского языков, постобучение с применением SFT и DPO, а также возможность локального запуска в экосистеме GGUF. Ограничением является необходимость использовать форк llama.cpp от LLM-jp: стандартная upstream-версия llama.cpp может некорректно обрабатывать токенизацию и чат. README не содержит достаточных количественных результатов оценки качества, поэтому сравнивать модель с альтернативами по бенчмаркам нельзя. Модель распространяется по лицензии Apache-2.0.

Locai L1-Large — диалоговая языковая модель Locai Labs, дообученная на базе Qwen3-235B-A22B-Instruct-2507 методом постобучения Forget-Me-Not. Это модель семейства Qwen3 MoE с 18,2 млрд параметров и контекстом до 262 144 токенов; веса опубликованы в формате safetensors. Она предназначена для генерации ответов и следования инструкциям, а также подходит для математических и научных рассуждений. Разработчики сообщают об улучшении следования инструкциям и устойчивости к вредоносным запросам, сохраняя при этом математические и научные способности базовой модели. Модель поддерживает несколько языков; отдельно заявлено улучшение для валлийского, ирландского, шотландского гэльского, баскского, армянского, тагальского и суахили. Для модели указана лицензия Apache-2.0. Заявленные в карточке результаты бенчмарков приведены разработчиками и сами по себе не гарантируют аналогичного качества на пользовательских задачах.

MDCure-Qwen2-7B-Instruct — языковая модель Yale NLP, дообученная на Qwen/Qwen2-7B-Instruct с использованием набора MDCure-72k. Она предназначена для генерации ответов на инструкции и вопросы по нескольким документам, а также для задач с длинным контекстом. MDCure — процедура создания и фильтрации обучающих данных для улучшения способностей LLM работать с несколькими документами; авторы сообщают об улучшении результатов на ряде много-документных и длинноконтекстных тестов относительно базовых моделей. Модель имеет плотную архитектуру Qwen2, около 7,1 млрд параметров и контекст до 32 768 токенов. Она принимает текст и генерирует текст; в метаданных указан английский язык. Для использования рекомендуется Transformers версии 4.45.0 или новее. Модель распространяется по лицензии Apache-2.0.

MeliodasPercival_01_Experiment28Strangemerges_32 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Experiment28Strangemerges_32-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

MeliodasPercival_01_T3qm7xpStrangemerges_32 — объединённая модель для генерации текста на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/T3qm7xpStrangemerges_32-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалогов. Доступна в формате Safetensors и распространяется по лицензии Apache-2.0.

DevQuasar-9/microsoft.Phi-4-mini-instruct-GGUF — это квантизированная версия модели Phi-4-mini-instruct, разработанной Microsoft. Модель предназначена для генерации текста и использования в сценариях, где требуется работа с инструкциями и текстовыми запросами. В карточке указано, что модель относится к классу text-generation и распространяется в формате GGUF, подходящем для совместимого локального запуска. Сведения о точном размере, варианте квантизации, архитектуре, длине контекста, поддерживаемых языках и дополнительных модальностях не приведены. К сильным сторонам относятся уменьшенные требования к хранению и вычислительным ресурсам по сравнению с полной версией, однако квантизация может влиять на качество ответов. Лицензия и условия использования в README не указаны.

Это сборка Mistral 7B Instruct v0.2 от Mistral AI, подготовленная Mozilla AI в формате llamafile. В её основе — плотная диалоговая модель Mistral, дообученная для генерации текста по инструкциям; базовая версия содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий включает варианты квантования разной разрядности, в том числе с заметной потерей качества на самых компактных настройках. Модель подходит для локального чат-общения, ответов на вопросы и выполнения текстовых инструкций через llama.cpp и совместимые интерфейсы. Формат llamafile упрощает запуск на обычных системах с ARM64 и AMD64; конкретные требования к памяти и качество зависят от выбранного файла. Модель не имеет встроенных механизмов модерации. Лицензия — Apache-2.0.

wang7776 выпустил разреженную версию Mistral-7B-Instruct-v0.2, предназначенную для диалогов и генерации текста по инструкциям. По README, модель прорежена на 2% методом Wanda без дообучения и изменения весов. В основе — Mistral-7B-Instruct-v0.2, дообученная для следования инструкциям версия Mistral-7B-Instruct-v0.1; архитектура — плотный трансформер Mistral с Grouped-Query Attention и Sliding-Window Attention. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и использует формат инструкций [INST] ... [/INST]. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста общего назначения. В карточке заявлена лицензия Apache 2.0. README предупреждает, что у модели нет механизмов модерации, поэтому её ответы могут не соблюдать заданные ограничения.

TheBloke/Mistral-7B-v0.1-GGUF — это набор квантованных файлов в формате GGUF для предварительно обученной языковой модели Mistral 7B v0.1, разработанной Mistral AI. Репозиторий подготовлен TheBloke и предназначен для генерации текста и локального запуска модели через llama.cpp и совместимые интерфейсы и библиотеки. Модель относится к архитектуре Mistral и содержит около 7 миллиардов параметров. Доступны варианты квантования с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между размером, скоростью и качеством. Поддерживается текстовый ввод и вывод; шаблон промпта не задан, поэтому используется непосредственная передача текста. Максимальная поддерживаемая длина последовательности для GGUF-версии указана как 4096 токенов или меньше. Сильные стороны модели — возможность запуска на CPU и GPU, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими инструментами. Ограничения включают отсутствие поддержки последовательностей длиннее 4096 токенов в данном формате и потенциальное снижение качества в более агрессивно квантованных вариантах. Языки, на которых модель обучалась, и специализированные сценарии её применения в README не указаны. Модель распространяется по лицензии Apache 2.0.

Это набор GGUF-квантизованных файлов модели Mistral Nemo Instruct 2407, разработанной Mistral AI и квантизованной командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, поэтому может использоваться в диалоговых приложениях, локальных ассистентах и других сценариях text-generation при наличии совместимого ПО для работы с форматом GGUF. В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 4,6 до 12,4 ГБ. Квантизация позволяет выбирать компромисс между размером файла, требованиями к ресурсам и сохранением качества, однако README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста. Сильная сторона представленной версии — широкий выбор уровней квантизации для развёртывания на оборудовании с разными ограничениями по памяти. Ограничения качества и производительности зависят от выбранного варианта и среды запуска; конкретные результаты в README не приведены. Лицензия модели и условия её использования в предоставленных данных не указаны.

Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-D — объединённая автором модель для диалогов и генерации текста. Она создана с помощью mergekit методом SLERP из Kaoeiri/Mistral-magnum-v4_X_Cydonia-VXXX_Mixture-C и nbeerbower/Mistral-Small-Drummer-22B. Архитектура — плотная MistralForCausalLM, размер — 22 млрд параметров; модель работает с текстом и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогового общения и генерации текста. Метаданные указывают на интерфейс вызова инструментов, однако подробности его использования в карточке не описаны. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

Mistral-Small-Instruct-2409-GGUF — это набор квантованных файлов в формате GGUF для инструкционной модели Mistral-Small-Instruct-2409, разработанной компанией mistralai. Квантование и публикацию этого варианта выполнил MaziyarPanahi. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Набор включает варианты квантования с разной разрядностью — от 2 до 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов; некоторые из них поддерживают GPU-ускорение и совместимый с OpenAI API сервер. Преимуществами являются возможность локального использования, широкий выбор уровней квантования и совместимость с популярной экосистемой llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, длине контекста, целевых модальностях, результатах оценки и лицензии. Поэтому эти характеристики и условия юридического использования следует уточнять по карточке исходной модели Mistral-Small-Instruct-2409 и сопутствующим материалам.

Mixtral-8x7B-Instruct-v0.1-GGUF — квантизированная GGUF-версия инструкционной модели Mixtral-8x7B-Instruct-v0.1, разработанной Mistral AI и подготовленной в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и работу через LlamaEdge. Поддерживаются английский, французский, итальянский, немецкий и испанский языки; заявленный размер контекста составляет 4096 токенов. Доступны варианты квантования от Q2_K до Q8_0 размером примерно от 17,3 до 49,6 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно терять в качестве; Q4_K_M, Q5_K_M и Q5_K_S отмечены как сбалансированные или рекомендуемые, тогда как Q2_K и некоторые другие варианты имеют существенное снижение качества. Модель ориентирована на текстовые задачи и не поддерживает мультимодальные входы согласно представленным данным. Используется по лицензии Apache 2.0.

MN-magnum-v2.5-18.5B-kto-Instruct-GGUF — это квантизированная GGUF-версия инструкционной языковой модели MN-magnum-v2.5-18.5B-kto-Instruct, разработанной DavidAU и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска через llama.cpp или совместимые приложения, включая LM Studio. Она поддерживает диалоговый формат с системными и пользовательскими сообщениями. В основе лежит модель размером 18,5 млрд параметров; точная архитектура, поддерживаемые языки, модальности и размер контекстного окна в README не указаны. Доступны варианты от F16 до низкобитных квантований Q2 и IQ, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Для квантования использовались llama.cpp и imatrix с указанным набором данных; варианты Q5–Q6 отмечены как высококачественные и рекомендуемые, а Q3 и Q2 предназначены для систем с ограниченными ресурсами, но могут заметно уступать по качеству. Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке исходной модели DavidAU/MN-magnum-v2.5-18.5B-kto-Instruct.

Это GGUF-сборка языковой модели Qwen3.8-27B, разработанной командой Qwen, с постобучением SimPO и базой из семейства EfficientThink от nerkyor. Модель предназначена для генерации текста, диалогов, рассуждений и программирования. Она относится к dense-моделям с hybrid attention и поддерживает эффективное мышление; заявлены китайский и английский языки. Версия ориентирована на запуск через llama.cpp и совместимые приложения, включая LM Studio. Модель содержит 27 млрд параметров, 65 блоков, включая встроенную MTP-голову для speculative decoding. Используется смешанная квантизация: K/Q/V-блоки ключевых attention-слоёв сохранены в Q4_K, значительная часть FFN-контуров квантизирована в IQ3_XXS, другие компоненты — в IQ3_S, а нормы — в F32. Размер файла составляет 10,12 GiB при 3,18 BPW. При использовании Q4 KV-кэша заявлена поддержка контекста свыше 130 тысяч токенов на видеокарте с 16 ГБ памяти. Для vision-сценариев требуется отдельный vision projector из базового семейства Qwen3.8. К сильным сторонам относятся существенно уменьшенный размер, сохранение повышенной точности в важных attention-компонентах, встроенная MTP-голова и возможность ускорения генерации примерно в 2–3 раза на диалоговых ответах при корректной настройке. Ограничениями являются зависимость качества от агрессивной IQ3-квантизации, необходимость совместимого ПО и настройки параметров запуска, а также непредсказуемость выходов, поскольку сборка обозначена как uncensored. Модель предоставляется по лицензии Apache 2.0, но автор рекомендует её прежде всего для личных исследований и оценки, а не для публичного или производственного использования.

NeuralReyna-Mini-1.8B-v0.2 — диалоговая языковая модель на архитектуре Qwen2 с примерно 1,5 млрд параметров. Автор взял aloobun/Reyna-Mini-1.8B-v0.2 и дополнительно дообучил её методом DPO на данных Intel/orca_dpo_pairs. Модель использует формат запросов ChatML, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors под лицензией Apache-2.0. Модель предназначена для генерации ответов в диалоге и заявлена для задач программирования, математики, естественных наук, ролевого общения и вызова функций. README предупреждает о возможном переобучении на данных DPO и нестабильном качестве; приведённые результаты оценки относятся к отдельным тестам и не гарантируют качества в практических сценариях.

NorMistral-7b-warm-instruct — инструкционно дообученная языковая модель, разработанная Norallm на базе NorMistral-7b-warm, который, в свою очередь, относится к семейству Mistral. Модель предназначена для генерации текста и диалогового взаимодействия, включая ответы на вопросы, многоходовые беседы, выполнение инструкций, подготовку текстов и задачи программирования. Основной фокус — норвежские языки Bokmål и Nynorsk; в метаданных также указан язык no. Модель поддерживает ChatML-подобный формат диалогов и контекст длиной 4096 токенов. Размер модели в README явно не указан для инструкционной версии, однако она названа NorMistral-7b-warm-instruct. Дообучение выполнено методом supervised fine-tuning на отфильтрованных и дополненных открытых наборах Aya, OASST, OIG, No Robots, Dolly и Glaive code assistant; preference optimization не применялась. К сильным сторонам относятся открытая доступность, ориентация на норвежскую языковую специфику, поддержка многоходовых диалогов и увеличенный до 4096 токенов контекст относительно базовой модели. Ограничения включают статус первой рабочей итерации, возможные изменения весов, чувствительность к параметрам генерации и отсутствие preference optimization, поэтому качество и устойчивость ответов могут быть неравномерными. Модель распространяется по лицензии Apache-2.0, допускающей коммерческое использование. README не сообщает о поддержке изображений или других модальностей, поэтому модель следует считать текстовой.

Occiglot-7B-FR-EN-Instruct — чат-модель с открытыми весами, разработанная Occiglot Research Collective. Это инструктивно дообученная версия occiglot-7b-fr-en: плотный авторегрессионный трансформер Mistral с 7,1 млрд параметров. Модель предназначена для диалогов и выполнения инструкций на французском и английском языках; в обучении также использовались инструкции для кода. Контекст модели по метаданным составляет 32 768 токенов. Модель обучена методом полного инструктивного дообучения на данных Open-Hermes-2B и нескольких наборах французских инструкций. Она использует шаблон чата ChatML и токенизатор Mistral-7B-v0.1. Авторы называют релиз ранним этапом исследовательского проекта; опубликованные оценки предварительные, а результаты для французского получены на ограниченных наборах и требуют осторожной интерпретации. Модель не проходила выравнивание по безопасности и может выдавать проблемный контент. Лицензия — Apache 2.0.

DevQuasar/openai.gpt-oss-120b-GGUF — это квантованная версия текстовой генеративной модели openai/gpt-oss-120b, подготовленная разработчиком DevQuasar. Модель предназначена для генерации текста в диалоговых и других сценариях, поддерживаемых базовой моделью. В README также указано наличие фиксированного chat template, что обеспечивает заранее заданный формат взаимодействия с моделью. Из доступных данных известно только, что модель относится к семейству с обозначением 120b и распространяется в формате GGUF; сведения о конкретном варианте квантования, архитектуре, размере файлов, поддерживаемых языках, длине контекста и модальностях отсутствуют. Квантование обычно позволяет снизить требования к памяти по сравнению с исходной моделью, но может сопровождаться потерей качества; степень этого компромисса для данного варианта не указана. Лицензия и условия использования в README не приведены.

amazingvince/openhermes-7b-dpo — экспериментальная DPO-донастройка модели OpenHermes, опубликованная автором репозитория. В README она описана как дообучение OpenHermes на данных, призванных улучшить способности модели; базовая линия OpenHermes 2.5 основана на Mistral 7B и включает дополнительное обучение на наборах инструкций по программированию. Метаданные указывают на плотную авторегрессионную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате, включая ответы на инструкции и вопросы; базовое семейство также ориентировано на задачи с кодом. В карточке сказано, что модель экспериментальная, а подробности будут добавлены позднее. Доступны веса Safetensors, лицензия — Apache-2.0. README не приводит результатов именно этой версии, поэтому её качество и улучшения относительно базовой модели подтвердить нельзя.

OpenHermes-7B-Symbolic-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная из mistralai/Mistral-7B-Instruct-v0.1 и hedronstone/OpenHermes-7B-Symbolic методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции и диалоговые запросы; заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Карточка описывает состав и способ объединения моделей, но не приводит сравнительных оценок качества или специальных ограничений.

OpenLumen 2 Pulsar — текстовая модель с открытыми весами, выпущенная Aeonthic как вариант семейства Lumen 2 Pulsar. Она дообучена на архитектуре Gemma 4 26B-A4B от Google DeepMind и распространяется в формате FP16 для инференса, исследований, экспериментов и дальнейшей настройки. В репозитории указаны архитектура MoE, около 2 млрд параметров и контекст до 262 144 токенов; поддерживается диалоговое использование. Модель принимает и выдаёт текст, функции обработки изображений в этой версии нет. Обычный формат Transformers рассчитан на совместимый запуск без стека QAT Lumen. Чекпойнт занимает около 48 ГБ, поэтому для инференса могут потребоваться несколько GPU или выгрузка части вычислений на CPU. Разработчик предупреждает, что низкобитное квантование после обучения может заметно ухудшить работу: в частности, Q4_0 способен серьёзно нарушить поведение модели; для сохранения ожидаемого качества рекомендуется FP16. Данные обучения публично не выпущены. Лицензия репозитория — Apache-2.0; разработчик также указывает, что пользователи сами отвечают за оценку результатов и соблюдение условий лицензии и законодательства.

Phi-3-medium-4k-instruct-IMat-GGUF — квантизированная версия языковой модели Phi-3-medium-4k-instruct, разработанной Microsoft. Релиз подготовлен пользователем legraphista с использованием llama.cpp и представлен в формате GGUF для локального запуска и генерации текста. Модель предназначена для диалоговых сценариев, выполнения инструкций и других задач текстовой генерации. Исходная модель использует формат BF16, а репозиторий содержит варианты с разными уровнями точности и размером от 4,13 до 27,92 ГБ: FP16, BF16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизации. Для ряда вариантов применена IMatrix-квантизация, позволяющая уменьшить размер модели с сохранением качества по сравнению с обычной квантизацией. Указаны мультиязычная поддержка и контекст до 4096 токенов; доступна только текстовая модальность. Преимущества модели — широкий выбор вариантов квантизации, возможность подбора соотношения качества и требований к памяти, а также совместимость с экосистемой llama.cpp. Ограничения включают потерю качества при использовании наиболее компактных вариантов и высокие требования к ресурсам для полноточных версий; конкретные языки, архитектурные детали и результаты оценки в README не указаны. Модель распространяется по лицензии MIT.

Porpoise-6b-instruct — языковая модель NewstaR, дообученная на базе DeciLM-6b-instruct на наборе Dolphin GPT4 Dataset. Это плотная модель семейства LLaMA с архитектурой DeciLMForCausalLM и 6,6 млрд параметров; она предназначена для генерации текста и выполнения инструкций в диалоговых и других текстовых сценариях. Для запуска через Transformers в карточке указана настройка naive_attention_prefill=true. Модель принимает текст и генерирует текст. Контекст составляет 4096 токенов. В метаданных также перечислены OpenOrca, SlimPajama-627B и ehartford/dolphin. Карточка не сообщает о специализированной предметной области или известных ограничениях качества. Лицензия в предоставленных данных не указана.