II.6Документация и сопровождение разработки

ibm-granite/granite-3.3-8b-instruct-FP8 — это версия модели Granite-3.3-8b-Instruct в формате FP8, разработанная IBM. Модель предназначена для генерации текста и использования в сценариях, требующих следования инструкциям; карточка указывает pipeline text-generation и совместимость с библиотекой Transformers. Модель основана на ibm-granite/granite-3.3-8b-instruct и содержит 8 миллиардов параметров, однако в представленном README не приведены сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна. Формат FP8 может быть полезен для более эффективного хранения и инференса, но конкретные требования к оборудованию и показатели качества не указаны. Модель распространяется по лицензии Apache-2.0. Для полного описания возможностей и ограничений рекомендуется обратиться к карточке базовой модели, поскольку текущий README содержит только краткую информацию о FP8-версии.

ProCreations/grug-v1.1-qwen-3.8-27b-qgguf — это GGUF-версия модели grug-v1.1-qwen-3.8-27b, разработанная ProCreations для локального запуска через llama.cpp. Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами. Заявлена поддержка английского языка и режим text-generation. Модель имеет размер 27B и поставляется в нескольких вариантах квантования: Q8_0, Q6_K, Q5_K_M, Q4_K_M и Q3_K_M, занимающих примерно от 13,3 до 28,6 ГБ. Для работы с изображениями предусмотрен отдельный multimodal-проект mmproj в формате F16 размером около 0,9 ГБ, используемый вместе с llama-mtmd-cli. Размер контекста в README не указан. Ключевая особенность модели — оптимизированное рассуждение: в описании заявлено существенно меньшее число токенов в блоке размышлений по сравнению с базовой моделью. Для большинства случаев рекомендуется средний уровень reasoning effort; режим xhigh может ухудшать выбор инструментов. Квантование позволяет подобрать баланс между качеством и требованиями к памяти, но более компактные варианты могут уступать полноразмерным весам по качеству. Все варианты, согласно README, проверены с помощью llama-bench. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое окружение llama.cpp; конкретные требования к оперативной памяти, производительности и максимальному контексту не указаны.

WorldSim-Opus-3.6-35B-A3B-GGUF — это квантизированная версия языковой модели Gryphe/WorldSim-Opus-3.6-35B-A3B, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель ориентирована на диалоговое общение, работу по инструкциям, ролевые сценарии, reasoning и творческое письмо. Обучение или дообучение связано с датасетом Gryphe/Opus-4.6-Reasoning-24k. Модель основана на архитектуре Qwen3.6 MoE; в названии указана конфигурация 35B-A3B. README сообщает о поддержке английского языка и текстовом формате взаимодействия через ChatML с шаблоном, включающим секцию рассуждений <think>. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ; размеры файлов составляют примерно от 16,9 до 69,38 ГБ. Более качественные варианты требуют больше памяти, а младшие квантизации предназначены для ограниченных ресурсов и могут снижать качество. Модель можно запускать локально через llama.cpp, Ramalama, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Контекстное окно, точные требования к оперативной или видеопамяти, мультимодальные возможности и результаты бенчмарков в README не указаны. Репозиторий распространяется по лицензии Apache-2.0.

guns-and-roses-r1 — экспериментальная слитая языковая модель на архитектуре Mistral, созданная inflatebot с помощью mergekit и метода Model Stock. В слиянии использованы inflatebot/thorn-0.35 в качестве базовой модели, а также thorn-0.45, thorn-0.5 и thorn-0.55; разработчик связывает семейство моделей с Magnum-12B-V2 и MN-12B-Rosier-v1. Модель содержит 12,1 млрд параметров и рассчитана на генерацию текста в диалоговом формате ChatML. Модель подходит для ведения диалогов и генерации ответов по текстовым запросам. README называет её экспериментальной ревизией и отмечает, что одна из исходных моделей обучалась без формата инструкций, поэтому при использовании следует соблюдать ChatML-формат. Метаданные указывают контекстное окно 1 024 000 токенов. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Hapsburg_v0_1 — языковая модель, созданная JDBMG путём слияния нескольких предварительно обученных моделей с помощью mergekit. В качестве базовой модели использована InferenceIllusionist/Excalibur-7b-DPO; также в слияние вошли MTSAIR/multi_verse_model, yam-peleg/Experiment26-7B и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Применён метод DARE TIES, итоговые веса представлены в формате bfloat16. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста; заявленная длина контекста — 32 768 токенов. Базовая модель описана как экспериментальная англоязычная чат-модель, но README не уточняет дополнительные языки и сценарии для результата слияния. Лицензия в предоставленных данных не указана. README не приводит оценок качества или конкретных ограничений; как результат слияния, поведение и надёжность модели могут отличаться от исходных моделей и требуют проверки на целевых запросах.

Helios-10.7B-v2 — языковая модель семейства Llama, созданная occultml путём слияния двух моделей с помощью mergekit и метода SLERP. В конфигурации указаны jeonsworld/CarbonVillain-en-10.7B-v2 и kekmodel/StopCarbon-10.7B-v5; базовой моделью названа jeonsworld/CarbonVillain-en-10.7B-v4. Метаданные указывают 7,1 млрд параметров, контекст до 4096 токенов и формат Safetensors. Модель предназначена для генерации текста в диалоговом режиме. Её можно использовать для ведения беседы и генерации ответов или продолжений текста. В README приведены результаты оценивания на нескольких задачах Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Карточка не описывает отдельные специализированные области применения или дополнительные модальности; указанная архитектура — плотная LlamaForCausalLM.

Hermes-2-Pro-Mistral-7B-8bit — 8-битная версия модели Hermes-2-Pro-Mistral-7B, подготовленная mlx-community и преобразованная в формат MLX для запуска через mlx-lm. Модель основана на Mistral-7B-v0.1 и дообучена NousResearch; она предназначена для диалогов и следования инструкциям, включая сценарии вызова функций и выдачи JSON. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. В карточке указана поддержка английского языка. Репозиторий лицензирован по Apache-2.0. README отсылает за подробностями к карточке исходной модели, поэтому специфические характеристики и ограничения Hermes-2-Pro здесь не раскрыты.

mlx-community/Hermes-3-Llama-3.1-8B-8bit — 8-битная версия Hermes 3 на базе Llama 3.1 8B, подготовленная сообществом mlx-community для формата MLX. Модель была преобразована из NousResearch/Hermes-3-Llama-3.1-8B с помощью mlx-lm 0.16.1; метаданные указывают на дообучение исходной Llama 3.1 8B и архитектуру LlamaForCausalLM с 7,5 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая генерацию текста, ролевые сценарии и вызов функций. Заявленный контекст составляет 131 072 токена; в карточке указаны английский язык, chat template ChatML, режим JSON и function calling. Формат MLX рассчитан на запуск через mlx-lm. Для модели указана лицензия llama3. Карточка не приводит отдельных результатов оценки качества; фактическая скорость и потребление памяти зависят от устройства и сценария запуска.

Hermes-3-Llama-3.1-8B-lorablated-GGUF — это набор квантизированных GGUF-версий текстовой генеративной модели mlabonne/Hermes-3-Llama-3.1-8B-lorablated. Квантизацию выполнил bartowski с использованием llama.cpp и imatrix. Модель предназначена для локального запуска задач генерации текста, включая диалоговое взаимодействие и следование инструкциям, в совместимых средах, таких как llama.cpp и LM Studio. В основе лежит модель размера 8B, однако точные сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Доступны варианты от F32 до низкобитных квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ; более крупные варианты обычно сохраняют более высокое качество, а компактные требуют меньше оперативной памяти, но могут заметно уступать в качестве. Для работы следует использовать указанный формат prompt с системным сообщением, пользовательским запросом и ответом ассистента. Лицензия в README не указана.

kmhf/hf-moshika — текстовая генеративная модель, опубликованная на Hugging Face и предназначенная для запуска через библиотеку Transformers. В метаданных модель связана с семейством или технологией Moshi, однако разработчик, точный тип архитектуры и происхождение весов в доступной карточке не описаны. Модель решает задачу генерации текста: может использоваться для продолжения заданного текста, создания черновиков и построения приложений на базе text-generation. Объём модели составляет 8,7 млрд параметров, а заявленная нативная длина контекста — 3000 токенов. Формат хранения включает safetensors. Сильными сторонами являются сравнительно крупный размер модели и интеграция с экосистемой Transformers. Языки, результаты оценки, обучающие данные и специализированные сценарии применения не описаны. Лицензия в доступных данных не указана, поэтому условия использования необходимо проверить на странице репозитория перед применением модели.

Homer-calme-2.4-78b-mix — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit линейным слиянием моделей calme-2.4-rys-78b и homer-78b. Модель homer-78b была дообучена методом SFT на calme-2.4-rys-78b. Модель предназначена для генерации текста и диалогового общения. Она содержит 76,7 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0. Карточка не приводит результаты оценивания и подробное описание поведения модели, поэтому качество для конкретных задач по ней оценить нельзя.

HQwen-3B-00-fp16 — чат-модель для генерации текста, разработанная 1024m на основе unsloth/Qwen2.5-3B-Instruct. Модель дообучена с использованием Unsloth и библиотеки TRL; её архитектура — плотная Qwen2, размер — 3,1 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для диалогов, ответов на запросы и создания текста, включая структурированные ответы и сценарии с интерфейсом вызова инструментов. В карточке указана поддержка английского языка. Модель распространяется по лицензии Apache-2.0. Описание не приводит отдельных результатов оценки качества или специализированных областей применения.

Huihui-Orchestrator-8B-abliterated — версия NVIDIA Orchestrator-8B, изменённая Huihui AI методом abliteration для ослабления отказов и фильтрации ответов. Это плотная языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для генерации текста в диалогах. Она принимает текст и выдаёт текст; заявленная длина контекста — 40 960 токенов. Модель можно запускать через Ollama. Ослабленная фильтрация позволяет получать ответы на запросы, от которых исходная модель могла бы отказаться, но также повышает вероятность чувствительных, спорных или неподходящих результатов. Рекомендуется проверять ответы. Репозиторий распространяется по лицензии MIT.

Hy3-heretic — разговорная модель генерации текста на архитектуре HY-V3 с mixture-of-experts, представленная пользователем trohrbaugh. По метаданным, модель содержит 16,6 млрд параметров и поддерживает контекст до 262 144 токенов; формат весов — safetensors, лицензия — Apache-2.0. Она предназначена для диалогов и генерации ответов с ослабленным отказом: в README приведено сравнение, где вариант Hy3-heretic отказал в 1 из 100 запросов против 99 из 100 у исходной модели. Модель можно применять для общения, ответов на запросы и других сценариев генерации текста. Карточка описывает метод abliteration и сообщает о KL divergence 0,2398 относительно исходной модели. README также содержит общие сведения о Hy3 от команды Tencent Hy, включая заявленные возможности для рассуждений, работы с длинным контекстом, программирования и агентных сценариев; эти характеристики относятся к семейству Hy3 и не подтверждены отдельно для данного варианта. В карточке указана лицензия Apache-2.0.

Locutusque/hyperion-small-preview — диалоговая языковая модель, опубликованная M4-ai и дообученная на наборе данных Hyperion на основе Qwen/Qwen1.5-1.8B. Это плотная модель семейства Qwen2 с 1,5 млрд параметров, поддержкой контекста до 32 768 токенов и форматом весов safetensors. Модель предназначена для ответов на сложные вопросы и ведения диалога, в том числе по научным и техническим темам. В карточке заявлены помощь в обучении естественным и медицинским наукам, математике и информатике, понимание медицинских текстов, генерация кода, а также математические и логические рассуждения. Основной заявленный язык — английский. Разнообразие обучающих данных и различия в их форматировании и качестве разметки могут приводить к непоследовательным ответам. Результаты оценки в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

Ice0.37-18.11-RP — разговорная языковая модель, созданная автором репозитория слиянием предварительно обученных моделей с помощью mergekit. Использован метод SLERP; в слияние вошли Ice0.36-18.11-RP и Ice0.35-18.11-RP. Модель построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. Контекст составляет до 32 768 токенов, веса опубликованы в формате safetensors. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти показатели дают ориентир по оценённым задачам, но не гарантируют качество в конкретном сценарии. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое использование. В карточке не описаны конкретные языки и дополнительные ограничения качества или безопасности.

Ice0.54-17.01-RP — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit. Репозиторий подготовлен в формате safetensors для использования с Transformers. Модель предназначена для генерации текста. Её можно применять для диалогов, продолжения текста и других задач, основанных на генерации. Размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. README не уточняет исходные модели, языки, качество или специальные сценарии применения. Лицензия в предоставленных данных не указана.

IceTea21EnergyDrinkRPV13-DPOv3 — разговорная языковая модель на архитектуре Mistral, созданная автором репозитория слиянием предварительно обученных моделей методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; длина контекста — до 32 768 токенов. Модель принимает текстовые запросы и генерирует текстовые ответы. В карточке указано слияние двух вариантов IceTea21EnergyDrinkRPV13, однако их локальные пути не дают надёжного идентификатора базовой модели на Hugging Face. Сведения о специализированных областях и поддерживаемых естественных языках не приведены. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

immersyn2026 выпустил чат-модель immersyn-mini-v1, дообученную на базе unsloth/qwen2.5-coder-3b-instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, предназначенная для генерации текста в диалоге; в метаданных также заявлен интерфейс вызова инструментов. Модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специализированную область применения или результаты оценки качества.

Карточка модели amd/Instella-MoE-16B-A3B-Base на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

Карточка модели TULLUS/Instella-MoE-16B-A3B-Think на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

InternLM2.5-7B-Chat-GGUF — это квантизированная версия диалоговой языковой модели InternLM2.5-7B-Chat, разработанной командой InternLM и опубликованной в формате GGUF для использования с llama.cpp. Квантизацию выполнил bartowski с применением imatrix и различных схем квантования, рассчитанных на баланс между качеством ответов, размером файла и требованиями к памяти. Модель предназначена для текстовой генерации и диалоговых сценариев: ведения беседы, ответа на вопросы и выполнения инструкций. Для работы используется специальный шаблон prompt с ролями system, user и assistant. Доступны варианты от Q8 до Q2 и IQ-квантов; размеры файлов в README указаны примерно от 2,58 до 8,93 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, тогда как низкобитные версии подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. К сильным сторонам относятся широкий выбор уровней квантования, совместимость с llama.cpp и возможность локального запуска. Рекомендуемыми названы варианты Q4–Q6 и некоторые IQ4, тогда как Q3 и Q2 экономят память ценой снижения качества. README не содержит достоверных сведений о языках, размере контекста, точной архитектуре исходной модели и условиях лицензирования: указано лишь, что лицензия имеет тип other. Для использования необходимо учитывать требования выбранного GGUF-файла и поддерживать соответствующий формат prompt.

InternLM3-8B-Instruct-GGUF — это 8-миллиардная instruction-модель семейства InternLM, опубликованная командой InternLM и представленная в формате GGUF. Данный набор квантованных версий подготовлен bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая запуск локально через llama.cpp или LM Studio. Формат prompt не указан, поэтому для корректного применения следует обратиться к странице исходной модели. Доступны варианты от полноточных F32 и F16 до квантований Q8, Q6, Q5, Q4, Q3 и Q2, размером примерно от 3,82 до 35,22 ГБ. Квантованные версии снижают требования к памяти, сохраняя различный уровень качества; README рекомендует несколько вариантов Q6, Q5 и Q4 как оптимальные по соотношению качества и размера. Сведения о поддерживаемых языках, длине контекста, модальностях и конкретной архитектуре в README не приведены. Модель распространяется под лицензией Apache-2.0.

Menlo/Jan-nano-gguf — это квантизированная версия языковой модели Jan Nano, разработанной в экосистеме Jan авторами Alan Dao и Bach Vu Dinh. Модель дообучена на архитектуре Qwen3 и предназначена для генерации текста, работы с инструментами и function calling, а также исследовательских задач и обработки информации. Формат GGUF ориентирован на эффективный локальный запуск, включая устройства с ограниченными ресурсами и встраиваемые среды. Ключевыми особенностями модели являются компактность, сниженные требования к VRAM, поддержка интеграции с инструментами и увеличенный контекст, однако точный размер модели, объём контекстного окна, поддерживаемые языки и перечень модальностей в предоставленных данных не указаны. Jan Nano является non-thinking model, поэтому её не следует рассматривать как модель с отдельным режимом глубокого рассуждения. Ограничения и результаты сравнительных тестов также не приведены. Модель распространяется по лицензии Apache-2.0.

mahdi1233321/jarvis-qwen-1.5b — дообученная разговорная языковая модель, разработанная mahdi1233321 на базе unsloth/qwen2.5-1.5b-instruct-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL из Hugging Face. Это плотная авторегрессионная модель семейства Qwen2 с 1,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 32 768 токенов; модель принимает текст и выдаёт текст. Карточка не описывает специализированную предметную область или конкретные улучшения после дообучения, поэтому модель можно характеризовать только как общий разговорный генератор текста. Репозиторий содержит веса Safetensors; метаданные указывают возможность интерфейса вызова инструментов, но не подтверждают качество выполнения таких вызовов. Модель распространяется по лицензии Apache-2.0.

AISE-TUDelft/java-summary-classifier — модель на архитектуре MPNet, созданная на базе Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, сравнения предложений и кластеризации. В частности, модель подходит для задач классификации описаний Java-кода по сходству с краткими сводками. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторы; максимальная длина контекста составляет 514 токенов. README сообщает об обучении с CosineSimilarityLoss. Доступные сведения не уточняют поддерживаемые естественные языки. Формат весов — PyTorch; сведения о лицензии отсутствуют.

JetMoE-8B — открытая языковая модель семейства JetMoE, созданная Yikang Shen, Zhen Guo, Tianle Cai и Zengyi Qin. Она предназначена для генерации текста и может служить базой для дообучения и исследовательских экспериментов. Авторы сообщают, что модель обучена на 1,25 трлн токенов из общедоступных наборов данных. Архитектура состоит из 24 блоков, в каждом из которых есть слой смеси голов внимания (MoA) и слой смеси экспертов MLP (MoE). В каждом слое восемь экспертов, из которых для токена активируются два. README указывает 8 млрд параметров всего и 2,2 млрд активных параметров при выводе; метаданные Hugging Face указывают размер 1,6 млрд параметров. Модель принимает текст, генерирует текст и имеет контекстное окно 4096 токенов. Авторы заявляют о конкурентных результатах относительно ряда моделей большего размера и о сравнительно низкой стоимости обучения, однако приведённые в карточке таблицы неполны, поэтому независимо оценить эти сравнения по ней нельзя. Модель доступна в формате safetensors под лицензией Apache-2.0; карточка сообщает об открытом коде и обучении только на публичных данных.

J.O.S.I.E.3-Beta9-7B-slerp — диалоговая языковая модель, созданная Goekdeniz Guelmez слиянием методом SLERP моделей Weyaxi/Einstein-v5-v0.2-7B и cognitivecomputations/dolphin-2.8-mistral-7b-v02 с помощью LazyMergekit. Она предназначена для генерации текста в диалоге и ответов на вопросы. Модель построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Базовая модель Einstein-v5-v0.2-7B описана как дообученная на инструкциях Mistral для диалогов и ответов на общие и научные вопросы. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. README не приводит результатов оценки качества или конкретных ограничений поведения.

K2-Horizon-0.9B GGUF — набор общественных GGUF-квантизаций компактной плотной reasoning-модели класса 0,9 млрд параметров K2-Horizon-0.9B, разработанной IFM. Квантизации подготовлены сообществом; этот выпуск не является официальным релизом или одобрением IFM. Модель предназначена для локального запуска через llama.cpp. Модель рассчитана на англоязычные и китайскоязычные диалоги, рассуждения, программирование, научные задачи и сценарии с использованием инструментов. Она поддерживает контекст до 128K токенов и использует масштабирование RoPE методом YaRN. В выпуск входят варианты от Q8_0 до Q1_0 и IQ1_M/IQ2_XS; размер файлов составляет примерно от 0,21 до 1,07 ГиБ, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Высокобитные варианты обеспечивают более высокую точность, а Q4_K_M заявлен как рекомендуемый начальный вариант для общего применения. Агрессивные низкобитные варианты снижают требования к памяти, но могут заметно ухудшать рассуждения, следование инструкциям и надёжность вызова инструментов. Поддержка K2-Horizon в llama.cpp находится на стадии предварительного релиза: полнофункциональный шаблон для tool calling не разбирается используемой версией runtime, поэтому вызов инструментов этим выпуском не сертифицирован. Релиз распространяется по Apache License 2.0 с требованием сохранять атрибуцию и лицензию исходной модели при перераспределении.

K2-Horizon-MoVA-36B-A4B-bf16 — конверсия модели IFM/K2-Horizon-MoVA-36B-A4B в формат MLX с точностью bf16, опубликованная сообществом mlx-community. Это разреженная языковая модель MoE с 36 млрд параметров и примерно 4 млрд активных параметров на токен; в механизме внимания MoVA значения выбираются из 4 из 64 маршрутизируемых экспертов. Модель предназначена для генерации текста и диалогов, включая рассуждения и многошаговое взаимодействие, и поддерживает контекст до 524 288 токенов. Сборка ориентирована на компьютеры Apple с Apple silicon и работает через mlx-lm. README сообщает о проверке реализации на реальных весах относительно кода PyTorch IFM и о тестировании генерации и серверного диалога. Для короткого запроса требуется около 75 ГБ памяти; автор рекомендует Mac с 128 ГБ. В репозитории поставляется код модели, загружаемый через model_file; при использовании может потребоваться разрешить trust_remote_code. Лицензия — Apache-2.0.