I.2Синтез, понимание и проверка знаний

duyntnet/internlm2_5-7b-chat-1m-imatrix-GGUF — это GGUF-квантизации чат-модели InternLM2.5-7B-Chat-1M, разработанной командой InternLM. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, следование инструкциям, математическое рассуждение, работу с длинными документами и использование инструментов. Модель содержит около 7 миллиардов параметров и работает с текстовой модальностью. Заявлено контекстное окно до 1 миллиона токенов, а также улучшенные способности к рассуждению, выбору инструментов, следованию инструкциям и рефлексии. Для длинного контекста рекомендуется LMDeploy; заявленная конфигурация на 1 миллион токенов требует 4 GPU A100 с 80 ГБ памяти. Для обычного запуска доступны llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. К сильным сторонам относятся большой контекст, математическое рассуждение и поддержка сценариев с инструментами. Ограничения включают высокие вычислительные требования при использовании максимального контекста, а также зависимость от совместимого ПО и параметров квантизации. В метаданных указаны английский язык и лицензия «other»; точные условия лицензии README не уточняет.

Kanana-2-30B-A3B-Thinking — языковая модель Kakao Corporation из семейства Kanana-2, предназначенная для генерации текста с пошаговым рассуждением. Это дообученная версия Kanana-2-30B-A3B-Base на архитектуре DeepSeek V3 с механизмами MLA и Mixture of Experts: всего 30 млрд параметров, из которых активируются около 3 млрд. Репозиторий содержит веса в формате Safetensors; для запуска README рекомендует Transformers версии 4.51.0 или новее. Модель рассчитана на сложные инструкции, логические задачи, длительные диалоги и агентные сценарии с вызовом инструментов. Она поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки, а её штатная длина контекста составляет 32 768 токенов. README описывает настройку YaRN для контекстов до 128 тысяч токенов, но предупреждает, что масштабирование может ухудшить качество на коротких текстах. Лицензия указана как Other, поэтому условия использования следует уточнять в карточке модели. README сообщает, что пользовательские данные Kakao не использовались при предварительном обучении и дообучении. Модель ориентирована на генерацию текста; изображения и аудио в качестве входа не заявлены.

K-EXAONE-236B-A23B-FP8 — мультиязычная языковая модель, разработанная LG AI Research. Это FP8-квантизированная версия K-EXAONE-236B-A23B, предназначенная для генерации текста, рассуждений, работы с общими знаниями, многоязычного понимания, обработки длинного контекста и агентских сценариев с использованием инструментов и поиска. Модель использует архитектуру Mixture-of-Experts с 236 млрд параметров, из которых 23 млрд активируются при инференсе. Она поддерживает Multi-Token Prediction для ускорения самоспекулятивного декодирования примерно в 1,5 раза, 256K токенов контекста и гибридную схему внимания 3:1 со скользящим окном размером 128 токенов. В составе архитектуры 128 экспертов, 8 активных экспертов и один общий эксперт; словарь SuperBPE содержит 153 600 токенов. Поддерживаются корейский, английский, испанский, немецкий, японский и вьетнамский языки. Дата отсечения знаний — декабрь 2024 года. Сильные стороны модели — высокая эффективность MoE-архитектуры, длинный контекст, заявленные возможности рассуждения и работы в агентских системах, а также учет корейского культурного и исторического контекста. FP8-квантизация может снизить требования к ресурсам по сравнению с полноразмерной моделью, но модель всё равно остается крупной и требует специализированной инфраструктуры. Данные о мультимодальности отсутствуют, поэтому модель следует рассматривать как текстовую. Лицензия указана как специальная k-exaone; условия использования следует уточнять в файле LICENSE.

LiteResearcher-4B — агентная языковая модель компании Simplex AI, дообученная на базе Qwen/Qwen3-4B-Thinking с помощью обучения с подкреплением. Она построена на архитектуре Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для глубокого веб-исследования: она поочерёдно анализирует запрос, ищет сведения в интернете, посещает страницы и формирует ответ на основе собранных данных. Агент использует стиль ReAct и инструменты поиска и просмотра страниц; для работы с ними требуется внешняя инфраструктура и соответствующие ключи доступа. Карточка приводит результаты на бенчмарках GAIA, Xbench-DS и Frames, но они сами по себе не гарантируют аналогичное качество на других задачах. Модель принимает текст и генерирует текст; языковые теги карточки указывают английский и китайский. Распространяется по лицензии Apache-2.0.

NVIDIA Llama 3.1 405B Instruct FP8 — версия Meta Llama 3.1 405B Instruct, квантизованная NVIDIA до FP8 с помощью TensorRT Model Optimizer. Это плотная авторегрессионная Transformer-модель семейства Llama с примерно 403,7 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Окно контекста составляет до 131 072 токенов. Модель предназначена для диалоговых систем и генерации ответов по инструкциям, а также для инференса через TensorRT-LLM или vLLM. По данным README, FP8-квантизация весов и активаций линейных операторов в блоках трансформера уменьшает требования к диску и видеопамяти примерно вдвое; на H200 заявлено ускорение примерно в 1,7 раза. README указывает совместимость с NVIDIA Blackwell, Hopper и Lovelace. Модель построена на базе Meta-Llama-3.1-405B-Instruct и не является разработкой NVIDIA: README уточняет, что NVIDIA подготовила её под требования конкретного сценария. Лицензия — Llama 3.1; карточка заявляет готовность к коммерческому и некоммерческому использованию в рамках её условий.

Модель promotion/Llama-3.1-8B-TLDR-NBPO-eta0.05 — диалоговая языковая модель на архитектуре Llama, дообученная методом Nash Bargaining Preference Optimization (NBPO) на задаче TL;DR. Она основана на meta-llama/Llama-3.1-8B-Instruct и предназначена для генерации кратких резюме с учётом полноты, точности, лаконичности и полезности. В обучении использовались 300 обновлений оптимизатора и глобальный размер пакета 16; модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке описана оценка независимых показателей предпочтения относительно общей базовой политики на отложенных промптах; качество оценивал Llama-3.3-70B-Instruct. Модель распространяется в формате safetensors по лицензии Llama 3.1. Данные карточки не указывают языковой охват или ограничения на применение сверх условий этой лицензии.

Это 4-битная версия модели Llama 3 8B Instruct, подготовленная сообществом mlx-community для запуска с MLX. Модель преобразована из gradientai/Llama-3-8B-Instruct-262k с помощью mlx-lm 0.10.0; она использует плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для диалоговой генерации текста и принимает текстовые запросы. Заявленная длина контекста — 1 048 576 токенов; карточка указывает поддержку английского языка. Репозиторий использует формат safetensors. Лицензия — llama3. README отсылает к карточке исходной модели за дополнительными сведениями о возможностях и условиях использования.

Это 8-битная конверсия модели Llama 3 8B Instruct, выполненная сообществом mlx-community для запуска в формате MLX. Веса получены из gradientai/Llama-3-8B-Instruct-1048k с помощью mlx-lm версии 0.10.0. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 1 048 576 токенов. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. В метаданных указан английский язык; заявленная лицензия — llama3. Для использования в MLX в README приведена установка mlx-lm.

Это преобразованная в формат MLX версия языковой модели Llama 3 8B Instruct с контекстом до 262 144 токенов. Репозиторий подготовлен сообществом mlx-community на основе gradientai/Llama-3-8B-Instruct-262k с помощью mlx-lm 0.12.0; модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Она предназначена для диалоговой генерации текста и работы с длинными текстовыми контекстами. Метаданные указывают английский язык и поддержку чата. Репозиторий содержит веса safetensors в формате MLX; лицензия в доступных данных не приведена.

Llama3-ChatQA-1.5-70B-GGUF — квантизированная в формате GGUF версия модели Llama3-ChatQA-1.5-70B, разработанной NVIDIA. Квантизацию выполнил bartowski на основе llama.cpp. Модель построена на базовой архитектуре Llama 3 и содержит 70 миллиардов параметров. Основное назначение модели — conversational question answering и retrieval-augmented generation (RAG): ответы на вопросы с опорой на предоставленный контекст, извлечение сведений и суммаризация контекста. Она ориентирована прежде всего на англоязычные сценарии и также может применяться для общего текстового общения. Улучшенная обучающая методика и дополнительные данные для conversational QA повышают возможности работы с таблицами и арифметическими вычислениями. Модель является текстовой и поддерживает генерацию текста; заявленный язык — английский. Рекомендуется явно передавать релевантный контекст и указывать модели сообщать, если ответ отсутствует в нём. README не содержит сведений о размере контекстного окна и конкретном типе квантизации, поэтому эти характеристики нельзя уточнить. Лицензия указана как llama3; условия её применения следует проверять по лицензии исходной модели NVIDIA.

Patronus-Lynx-8B-Instruct-v1.1 — разработанная Patronus AI модель для оценки галлюцинаций в ответах систем с поиском по документам (RAG). Это дообученная версия meta-llama/Meta-Llama-3.1-8B-Instruct с архитектурой Llama и примерно 7,5 млрд параметров. Модель принимает документ, вопрос и ответ, затем оценивает, подтверждается ли ответ содержимым документа. Модель рассчитана прежде всего на английский язык, поддерживает контекст до 131 072 токенов и работает через text-generation. При обучении использовались, среди прочего, CovidQA, PubmedQA, DROP и RAGTruth; оценка проводилась на HaluBench. Репозиторий содержит веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

CYFRAGOVPL разработала PLLuM — семейство больших языковых моделей для польского и других славянских и балтийских языков с дополнительными англоязычными данными. Эта версия основана на Llama 3.1 и содержит 69,5 млрд параметров; она предназначена для диалогового использования и генерации текста. Модель работает с текстом и поддерживает контекст до 131 072 токенов. Модель подходит для генерации и суммаризации текста, ответов на вопросы и создания специализированных помощников. В README отмечены результаты на задачах, связанных с польским государственным управлением, и пригодность для сценариев с поиском по документам. Обучение семейства включает продолжение предобучения, настройку на инструкциях и обучение на предпочтениях; для этой версии в метаданных указана лицензия Llama 3.1. Учитывайте, что модель может галлюцинировать и воспроизводить смещения; длинный контекст также требует достаточных вычислительных ресурсов.

saishf/Long-SOVL-Experiment-8B-L3-262K — объединённая разговорная языковая модель, созданная с помощью mergekit методом Model Stock на базе gradientai/Llama-3-8B-Instruct-262k. В объединение вошли модели Aura, BlueMoon, Luna, RP_Format_QuoteAsterisk и Smarts от ResplendentAI. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и принимает текст для генерации текста; поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов и генерации ответов, включая работу с длинными текстами в пределах контекстного окна. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и конкретных ограничениях качества в предоставленных данных отсутствуют.

M7Yamshadowexperiment28_YamYam — объединённая модель для генерации текста, опубликованная MaziyarPanahi. Она создана на основе automerger/M7Yamshadowexperiment28-7B и automerger/YamYam-7B; в метаданных архитектура указана как плотная MistralForCausalLM с 7,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Модель подходит для диалоговой генерации, написания и продолжения текста, а также для задач, где требуется учитывать длинный контекст. Репозиторий содержит веса в формате safetensors. Лицензия — Apache 2.0. В карточке не описаны специальные предметные области или подтверждённые ограничения качества; возможности следует оценивать на целевых задачах.

MamayLM-Gemma-2-9B-IT-v0.1 — инструктивная языковая модель INSAIT, института при Софийском университете. Это плотный трансформер-декодер Gemma 2 с 9 млрд параметров и контекстом 8192 токена, предназначенный для диалога и генерации текста на украинском и английском языках. Модель построена на основе Google Gemma 2 9B и Gemma 2 9B IT: её дополнительно предварительно обучали на 75 млрд токенов украинских и английских данных, а затем дообучили следовать инструкциям на украинских наборах данных. Она ориентирована на ответы на вопросы, рассуждения, суммаризацию и другие текстовые задачи; авторы сообщают о сильных результатах на украинских тестах при сохранении английских возможностей. Распространяется по условиям Gemma Terms of Use.

mergekit-community/mergekit-model_stock-nvgaatl — объединённая модель для генерации текста, созданная сообществом с помощью mergekit и метода Model Stock. В качестве базы использована Qwen/Qwen2.5-14B-Instruct-1M; в слияние также вошли sthenno/tempesthenno-nuslerp-0124 и mergekit-community/mergekit-model_stock-injkqri. Модель имеет плотную архитектуру Qwen2, около 14 млрд параметров и предназначена для диалогов и генерации текста. Метаданные указывают на контекст до 1 010 000 токенов и интерфейс для вызова инструментов; модель работает через Transformers, веса представлены в safetensors. Её можно применять для чат-ответов и работы с длинным текстовым контекстом. Лицензия в предоставленных данных не указана. Качество и поведение после слияния зависят от входящих моделей; отдельные результаты оценки в карточке не приведены.

MiniCPM4-8B — плотная языковая модель OpenBMB с 7,9 млрд параметров, построенная на архитектуре MiniCPMForCausalLM. Она предназначена для эффективного запуска на устройствах с ограниченными ресурсами; разработчики сообщают об ускорении генерации более чем в пять раз на типичных конечных устройствах, а на Jetson AGX Orin — примерно в семь раз по сравнению с Qwen3-8B при декодировании. Модель обучена на 8 трлн токенов и поддерживает диалоговый режим. Модель принимает текст и генерирует текст. Она предобучена на контекстах длиной 32 тысячи токенов, а расширение контекста до 128 тысяч достигается с помощью YaRN; README приводит результаты теста поиска фрагмента в длинном тексте. Карточка и метаданные указывают поддержку китайского и английского языков. Модель распространяется по лицензии Apache-2.0. Производитель отмечает, что генерируемые ответы требуют самостоятельной проверки: модель не выражает личных мнений или ценностных суждений, а её выводы не следует считать позицией разработчиков. Для корректного форматирования запросов при использовании chat API vLLM нужно явно включать добавление специальных токенов.

SuperAGI разработала Mistral-7B-32K-PoSE — плотную авторегрессионную языковую модель семейства Mistral с 7,1 млрд параметров. С помощью техники PoSE контекст модели расширен до 32 768 токенов; README сообщает о высокой эффективности в извлечении информации из длинного контекста и лишь небольшом снижении результатов на стандартных тестах. Модель предназначена для генерации текста и работы с длинными текстовыми запросами, в частности для поиска конкретных сведений в больших фрагментах текста. Она доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README приведён пример загрузки через Transformers. У модели нет механизмов модерации и защитных ограничений; разработчики предупреждают о рисках токсичности, социальных предубеждений и ограничений по языкам и не рекомендуют её для использования в production без дополнительных мер безопасности.

Это BF16-версия Mistral Small 3.2 24B Instruct в формате GGUF, подготовленная сообществом mlx-community и опубликованная TensorBlock. Репозиторий содержит файлы, совместимые с llama.cpp; модель предназначена для диалоговой генерации текста и работы с инструкциями. В README приведён шаблон промпта и варианты квантованных файлов, причём для некоторых малых квантовок отмечена существенная потеря качества. Модель содержит 24 млрд параметров и поддерживает многоязычный диалог, в том числе на русском, английском, французском, немецком, испанском, китайском и других языках из карточки. Лицензия — Apache-2.0. Указанная сборка — BF16 в GGUF; доступность файлов разных квантовок позволяет выбирать компромисс между размером и качеством. Для работы с GGUF требуется совместимый рантайм; README подтверждает совместимость с llama.cpp начиная с указанного коммита.

Это BF16-версия модели Kimi-K2-Thinking, подготовленная автором DevQuasar-2 из исходной INT4-модели moonshotai/Kimi-K2-Thinking с помощью собственного скрипта деквантизации, вдохновлённого скриптом для DeepSeek V3. В метаданных архитектура обозначена как dense, с классом DeepseekV3ForCausalLM; заявлено 37,9 млрд параметров и контекст до 262 144 токенов. Модель предназначена для диалоговой генерации текста.

MPropositioneur-V2-large — языковая модель на основе Qwen3-4B, дообученная дистилляцией для извлечения атомарных пропозиций. Разработана Люком Поммере в LISN (CNRS); содержит около 3,7 млрд параметров и использует архитектуру Qwen3 с плотной языковой моделью. Принимает текст и генерирует список простых, независимых утверждений, сохраняя смысл исходного предложения или фрагмента. Контекст модели — до 40 960 токенов. Модель предназначена для подготовки данных для RAG, открытого извлечения информации (OpenIE), упрощения текста и анализа дискурса. По карточке она поддерживает французский и английский; метаданные также перечисляют немецкий, итальянский, испанский и португальский. Сравнительно с версией 0.6B, автор заявляет о более высокой точности передачи смысла и лучшей работе со сложными структурами предложений. Распространяется по лицензии Apache-2.0.

Sami92/multiling-e5-large-instruct-claim-matching — модель Sentence Transformers, дообученная на базе intfloat/multilingual-e5-large-instruct для поиска семантически одинаковых утверждений. Она кодирует предложения и абзацы в нормализованные плотные векторы размерностью 1024; сходство между текстами оценивается косинусной мерой. Основа архитектуры — XLM-RoBERTa, максимальная длина последовательности составляет 512 токенов. Модель предназначена для сопоставления утверждений в автоматической проверке фактов: например, чтобы находить копии публикаций с дезинформацией или ранее проверенные утверждения. Обучающие данные содержат 51 106 пар текстов из Telegram-каналов, а разметка соответствия создавалась с помощью GPT-4o. В README сообщается о высокой точности классификации по порогу сходства, но F1 зависит от выбранного порога; для минимизации ложноположительных совпадений рекомендуется порог выше 0,91. Модель принимает текст и возвращает векторы, пригодные для сравнения и поиска ближайших утверждений. Она дообучена на данных из немецкоязычных Telegram-каналов; перенос на другие языки и источники может потребовать проверки. Лицензия — CC BY 4.0.

NVIDIA-Nemotron-Labs-Teacher-STEM — большая языковая модель NVIDIA из семейства Nemotron 3 Ultra, предназначенная для сложных рассуждений и использования как самостоятельная модель и учитель для генерации синтетических данных и дистилляции. Она дообучена на основе постобученной Nemotron 3 Ultra Student с дополнительной настройкой на рассуждения и обучением с подкреплением; в рецепте также применяется дистилляция с участием нескольких учителей. Модель использует гибридную архитектуру LatentMoE с чередованием слоёв Mamba-2 и Mixture-of-Experts, отдельными слоями внимания и Multi-Token Prediction. Она содержит 550 млрд параметров, из которых 55 млрд активны, и поддерживает генерацию текста с контекстом до 262 144 токенов по метаданным Hugging Face. Предназначена для математики, программирования, естественных наук, гуманитарных и общественных дисциплин, ответов на сложные вопросы и работы с инструментами, включая поиск и выполнение кода. Поддерживаются английский, французский, испанский, итальянский, немецкий, японский, корейский, хинди, арабский, китайский, иврит и бразильский вариант португальского. Карточка сообщает о возможности коммерческого и некоммерческого использования; лицензия в метаданных указана как other, поэтому конкретные лицензионные условия следует сверить с репозиторием. Для запуска требуются значительные вычислительные ресурсы и совместимое оборудование.

OpenBuddy — это мультиязычная чат-модель, разработанная проектом OpenBuddy на базе семейства Meta LLaMA. В репозитории представлена плотная авторегрессионная архитектура LlamaForCausalLM размером 12,9 млрд параметров, с контекстом до 65 536 токенов; веса сохранены в формате Safetensors. Модель предназначена для диалогов и генерации текста на китайском, английском, французском, немецком, японском, корейском, итальянском, русском и финском языках. Модель подходит для чат-ботов, ответов на вопросы и генерации текста с длинным контекстом. Она может выдавать ошибочные, вредные или оскорбительные ответы, поэтому не подходит для критически важных решений, медицинских рекомендаций и управления системами, где ошибка может причинить ущерб. Использование регулируется лицензией Llama 2: требуется соблюдать условия Meta и иметь право на доступ к исходной модели; модель предоставляется без гарантий.

Карточка модели ff670/openbuddy-mixtral-7bx8-v17.3-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.

Карточка модели OpenBuddy/openbuddy-mixtral-8x7b-v15.4 на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.

Карточка модели OpenBuddy/openbuddy-mixtral-8x7b-v16.1-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.

Карточка модели OpenBuddy/openbuddy-mixtral-8x7b-v16.2-32k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-mixtral-7bx8-v16.3-32k, поэтому описание составлено по ней. OpenBuddy-mixtral-7bx8-v16.3-32k — многоязычная чат-модель семейства Mixtral, опубликованная командой OpenBuddy. Она предназначена для диалогов и генерации текста; архитектура — Mixtral MoE, класс MixtralForCausalLM. В репозитории указаны 7,1 млрд параметров и контекст до 32 768 токенов; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель поддерживает китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; модель не следует использовать для решений в медицине, финансах, праве и других критически важных сценариях.

facebook/opt-iml-30b — модель генерации текста семейства OPT, разработанная Meta и дообученная следовать инструкциям с помощью instruction meta-learning. Она обучалась на наборе OPT-IML Bench, объединяющем около 2000 задач обработки естественного языка из восьми бенчмарков; вариант OPT-IML обучался на 1500 задачах, а OPT-IML-Max — на полном наборе. В карточке указано 39,8 млрд параметров, архитектура OPTForCausalLM и контекст до 2048 токенов. Модель предназначена для генерации текста по инструкциям и выполнения широкого круга языковых задач, представленных в обучающих бенчмарках. Репозиторий содержит веса PyTorch; для ускорения генерации и экономии памяти авторы рекомендуют загружать крупную модель в половинной точности и вызывать generate напрямую. Лицензия отмечена как other. Модель может допускать фактические ошибки, генерировать токсичные формулировки и воспроизводить стереотипы. Результаты требуют проверки человеком; конкретный набор языков в карточке не заявлен.

Ornith-1.0-35B-1M-GGUF — GGUF-сборка модели Ornith-1.0-35B от DeepReinforce, опубликованная satgeze. Это текстовая генеративная модель на базе 35B MoE-архитектуры семейства Qwen3.5 с примерно 3B активных параметров. Сборка предназначена для локального запуска через llama.cpp и Ollama и расширена поддержкой длинного контекста, speculative decoding через MTP и обработки изображений. Ключевая особенность — контекстное окно до 1 048 576 токенов: масштабирование RoPE по YaRN встроено в метаданные GGUF, поэтому для llama.cpp и Ollama не требуются дополнительные параметры. В README заявлена проверка поиска информации по длинному контексту: 50 из 50 тестовых фрагментов найдены на диапазоне до 1M токенов. MTP-сборка Q6_K показала рост скорости декодирования с 267,9 до 382,9 токена в секунду, или примерно на 43%; для APEX-Compact заявлен прирост 14%. Визуальный модуль подключается отдельным файлом mmproj и, по данным README, распознаёт текст на изображениях и объекты. Модель подходит для генерации текста, работы с большими документами и другими задачами, требующими очень длинного контекста, а также для мультимодальных сценариев с изображениями. Доступны варианты квантования различного размера; рекомендуемые MTP-файлы занимают 17,0 и 29,2 ГБ, а визуальный модуль — 899 МБ. Ограничения включают высокие требования к оперативной или видеопамяти, зависимость производительности от оборудования и потенциальные потери качества при выборе более агрессивного квантования. Модель распространяется по лицензии MIT.