II.7DevOps, облако и эксплуатация IT-систем

Airoboros 7B GPT4 1.4.1 QLoRA — дообученная модель семейства LLaMA, созданная jondurbin на базе синтетических данных, сгенерированных GPT-4. Это вариант QLoRA для сравнения с полной тонкой настройкой; модель содержит около 6,6 млрд параметров и рассчитана на контекст до 2048 токенов. Для диалога использует шаблон в стиле Vicuna 1.1. Модель предназначена для генерации ответов в диалоге, следования инструкциям, ответов на вопросы по предоставленному контексту, помощи с программированием, письма, ролевых диалогов, загадок и викторин. В обучающем наборе есть примеры кода на десяти языках программирования, но естественные языки модели в источниках не перечислены. Модель ориентирована на подробные и прямые ответы, однако README предупреждает, что ответы по контексту могут выдумываться, поэтому для закрытых вопросов рекомендуется явно просить не придумывать ответ при нехватке данных. Модель обучалась следовать запросам без отказов, включая незаконные или аморальные; это может приводить к небезопасным ответам. Лицензия — CC BY-NC 4.0, разрешающая использование с указанием авторства и запрещающая коммерческое использование.

CollectiveCognition-v1-Mistral-7B-Mistral-7B-Instruct-v0.1 — объединённая модель для генерации текста, созданная на основе mistralai/Mistral-7B-Instruct-v0.1 и teknium/CollectiveCognition-v1-Mistral-7B методом SLERP. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, предназначенная для диалогов и выполнения инструкций. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В карточке указан английский язык и формат safetensors. Модель подходит для диалоговых помощников, генерации ответов и других задач продолжения текста по запросу. Она выпущена по лицензии Apache-2.0. Карточка описывает способ слияния, но не приводит отдельные оценки качества этой итоговой модели.

DASD-4B-Thinking-GGUF — это квантизированная версия компактной плотной языковой модели DASD-4B-Thinking, разработанной Alibaba-Apsara и преобразованной в формат GGUF с помощью llama.cpp; квантизацию выполнил GGUF Quantizer Space. Исходная модель основана на Qwen3-4B-Instruct-2507 и обучалась методом distribution-aligned sequence distillation с использованием gpt-oss-120b в качестве учителя и 448 тыс. обучающих примеров. Модель предназначена для задач, требующих рассуждений по длинной цепочке, включая решение математических задач, генерацию кода и научное рассуждение. Это текстовая модель с параметрами порядка 4 млрд, ориентированная на локальный запуск на пользовательском оборудовании через llama.cpp или Ollama. README не указывает поддерживаемые языки и размер контекстного окна. Доступно множество вариантов квантизации от Q2_K до Q8_0. Q4_K_M и Q5_K_M отмечены как рекомендуемые и предлагают компромисс между размером и качеством, тогда как Q8_0 обеспечивает близкое к исходному качество при большем размере. Среди заявленных сильных сторон — высокие результаты на AIME24, AIME25, LiveCodeBench и GPQA-D, а также возможность запуска сравнительно небольшой модели на потребительском оборудовании. Более агрессивная квантизация может приводить к заметной потере качества. Лицензия в представленном README не указана.

Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.

DeepSeek-V4-Flash-0731-JANG-CRACK — дообученная и аблированная версия DeepSeek-V4-Flash-0731 от dealignai. Это языковая модель на архитектуре DeepSeek V4 с 10,7 млрд параметров и MoE-компонентами; опубликованный вариант использует смешанную квантизацию JANG affine и занимает около 95 ГБ. Модель рассчитана на генерацию текста, диалог, рассуждения и написание кода, а также на сценарии, где требуется отвечать без обычных отказов на опасные запросы. Модель поддерживает английский и китайский языки. В README заявлена длина контекста до 1 048 576 токенов с расширением yarn RoPE, однако такая длина не проверялась в тестах этой сборки: оценки проводились на коротких запросах. Для запуска автор рекомендует vMLX на Apple Silicon примерно с 128 ГБ объединённой памяти; также упомянуты vMLX и jang_tools как варианты запуска. В тестах README модель показала 71,84% на MMLU и 90% pass@2 на HumanEval, но результаты приведены разработчиком и не являются независимой оценкой. Ключевое свойство CRACK — снятие отказов на вредоносные запросы: README сообщает о выполнении всех 320 заданий HarmBench, включая запросы по киберпреступлениям и причинению вреда. Это делает модель пригодной для контролируемого исследования поведения моделей, но опасной для неограниченного использования. Известны редкие опечатки; генерация длинного контекста в этой сборке не стресс-тестировалась. Лицензия — MIT.

EVA-QwQ-32B-Preview — плотная языковая модель на 32 млрд параметров, созданная слиянием моделей Qwen/QwQ-32B-Preview и EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 методом TIES с помощью mergekit. Она предназначена для генерации текста в диалоговом формате; базовая модель QwQ ориентирована также на математические рассуждения и программирование. Репозиторий использует Transformers и формат safetensors, а заявленная длина контекста составляет 32 768 токенов. Модель может подойти для диалоговых приложений и генерации ответов, а также для задач рассуждения и программирования, унаследованных от базовой QwQ. Карточка не приводит результатов оценки качества или отдельных гарантий этих возможностей. Лицензия в предоставленных данных не указана.

FuseLLM-7B — языковая модель, разработанная исследователями Sun Yat-sen University и Tencent AI Lab. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров, созданная методом слияния знаний трёх открытых моделей разных архитектур: Llama-2-7B, OpenLLaMA-7B и MPT-7B. Авторы извлекали их генеративные распределения и переносили общие знания и сильные стороны в целевую модель посредством дополнительного обучения. Модель предназначена для генерации текста и может применяться для рассуждений, ответов на вопросы, понимания прочитанного, генерации кода и машинного перевода. README приводит оценки на бенчмарках общих знаний, здравого смысла, кода и генерации текста. Модель принимает текст и генерирует текст; заявленный родной контекст — 2048 токенов, язык карточки — английский. Весы доступны в форматах PyTorch и Safetensors. FuseLLM-7B выпущена под лицензией Apache-2.0. Результаты бенчмарков не гарантируют качество в конкретном приложении; модель имеет относительно короткое окно контекста и не описана как instruction-tuned релиз.

Dzluck публикует Gemma 4 E2B JANG4M CRACK — изменённую версию Google Gemma 4 E2B Instruct с удалёнными отказами. Модель предназначена для диалогов, рассуждений, ответов на вопросы и генерации кода; принимает текст и изображения, а автор также заявляет о сохранении аудиовхода. Каталог Hugging Face относит её к мультимодальной задаче image-text-to-text и указывает архитектуру Gemma4ForConditionalGeneration с плотной архитектурой. Модель использует смешанную квантизацию JANG_4M: 8-битные веса внимания и 4-битные веса MLP, в среднем около 4,3 бита. По данным автора, MMLU снизился на 1,7 процентного пункта относительно исходной модели; в тестах HarmBench автор сообщает о полном выполнении запросов вредных категорий. Для запуска нужны Mac на Apple Silicon и vMLX с поддержкой Gemma 4; стандартные mlx_lm и mlx_vlm поддерживаются не полностью. Лицензия — Gemma; карточка также обозначает модель как предназначенную для исследований.

GLM4.7-Distill-LFM2.5-1.2B — компактная плотная языковая модель на архитектуре Liquid AI LFM2, разработанная автором репозитория на основе LiquidAI/LFM2.5-1.2B-Instruct. Модель содержит около 1,5 млрд параметров по метаданным (в README указано 1,2 млрд) и обучена методом офлайн-дистилляции: для обучения использовались синтетические ответы GLM-4.7 и открытые наборы инструкций. Учитель не нужен при запуске, а цепочки рассуждений в модель не включены. Модель предназначена для диалогового помощника, следования инструкциям, планирования и разбиения задач, суммаризации, объяснений, лёгкой помощи с кодом и агентных сценариев, включая локальный запуск на периферийных устройствах. Заявлены контекст до 128 000 токенов и поддержка английского языка; метаданные также указывают интерфейс для вызова инструментов. Модель ориентирована на краткие ответы и совместима с Transformers и safetensors. Автор предупреждает, что модель может галлюцинировать, ошибаться в сложных логических выводах и уверенно отвечать при недостатке оснований; она не подходит для актуальных событий и критически важных медицинских, юридических или безопасностных решений без проверки. Лицензия — Apache-2.0.

go-bruins-v2.1.1-Mistral-7B-Instruct-v0.1 — объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и rwitz2/go-bruins-v2.1.1 методом SLERP. Веса сохранены в формате safetensors; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Может применяться в чат-ботах и интерактивных текстовых помощниках. Лицензия Apache-2.0 разрешает использование на её условиях. Данные карточки не описывают отдельные возможности, гарантии качества или ограничения сверх указанных характеристик.

richardyoung/granite-4.2-3b-heretic — изменённая версия Granite 4.2-3B от IBM, подготовленная автором richardyoung с помощью Heretic 2.0.0.dev0. Это плотный декодерный трансформер GraniteForCausalLM с 3,4 млрд параметров, рассчитанный на диалоги, рассуждения и вызов инструментов. Модель принимает текст и генерирует текст; заявлена поддержка контекстного окна до 131 072 токенов. Модель получена методом abliteration: модификация снижает частоту отказов отвечать, сохраняя, согласно README, близость к базовой модели по KL-дивергенции. Она предназначена для локального инференса, исследований методов выравнивания, обучения и творческого письма. README сообщает о режимах рассуждения, однако эти характеристики описывают базовую Granite 4.2-3B и отдельно не подтверждены для данной версии. В карточке приведены результаты одного теста: 27 отказов из 100 вредоносных запросов против 98 у базовой модели; это не гарантирует поведения на других запросах. Как и базовая модель, она может выдавать неточные, предвзятые или небезопасные ответы; качество на языках помимо английского может быть ниже. Лицензия Apache 2.0.

jina-embeddings-v2-base-code-GGUF — GGUF-квантизированная версия модели jinaai/jina-embeddings-v2-base-code, разработанной jinaai и преобразованной в GGUF компанией Second State Inc. Это модель для получения векторных представлений текста и исходного кода, предназначенная для семантического поиска, сравнения схожести, классификации и других задач feature extraction, включая работу с кодовыми фрагментами. Указан английский язык. Модель поддерживает контекст до 8192 токенов и формирует embedding размерностью 768. Доступны варианты квантования от 2 до 8 бит, а также f16; размеры файлов составляют примерно от 82,7 до 323 МБ. В README вариант Q4_K_M отмечен как сбалансированный и рекомендуемый, тогда как низкобитные варианты обеспечивают меньший размер ценой заметной потери качества. Модель может запускаться через LlamaEdge с prompt type embedding. Распространяется по лицензии Apache-2.0. Ограничения зависят от выбранного варианта квантования: чем сильнее сжатие, тем выше потенциальная потеря качества embeddings. Архитектура исходной модели, точное число параметров и перечень поддерживаемых языков, кроме указанного английского, в предоставленных данных не описаны.

K2-Horizon-0.9B-NVFP4-GGUF — квантизированная версия компактной плотной языковой модели семейства K2-Horizon; автор репозитория WhiskyAKM. Модель с архитектурой decoder-only и 0,9 млрд параметров предназначена для диалоговой генерации текста и рассуждений, включая задачи по математике, программированию, науке и STEM. В README указано окно контекста до 128K токенов (131 072) с масштабированием RoPE YaRN; модель оценивалась на бенчмарках математики, кода, науки и использования инструментов. Репозиторий содержит веса GGUF в формате NVFP4, рассчитанные на запуск в llama.cpp и совместимых движках; заявлена оптимизация для NVIDIA Blackwell. Базовая модель IFM/K2-Horizon-0.9B обучалась с дистилляцией знаний от нескольких специализированных моделей-преподавателей. Репозиторий распространяется по лицензии Apache-2.0. Квантизация до 4 бит может влиять на качество ответов; результаты бенчмарков относятся к исходному описанию семейства и сами по себе не гарантируют аналогичное качество этой сборки.

KordAI/KeawGPT-Opus — англоязычная плотная авторегрессионная языковая модель семейства Qwen3 с 3,7 млрд параметров, разработанная KordAI как дообучение KordAI/KeawGPT. Модель принимает текст и генерирует текст; поддерживает диалоговый режим и интерфейс вызова инструментов. Для работы с контекстом поддерживается до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев на английском языке. Она распространяется в формате safetensors по лицензии Apache-2.0. В карточке указано, что обучение проводилось с использованием Unsloth и библиотеки TRL от Hugging Face.

Llama-3.1-Nemotron-Nano-4B-v1.1-bf16 — версия компактной языковой модели NVIDIA, опубликованная mlx-community и преобразованная из nvidia/Llama-3.1-Nemotron-Nano-4B-v1.1 для запуска с библиотекой MLX. Это плотная авторегрессионная модель семейства Llama с 3,9 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для диалоговой генерации текста. Базовая модель NVIDIA ориентирована на рассуждения, код, математику, RAG и вызов инструментов; эти сценарии могут быть полезны и для данной версии, но README подтверждает только конверсию и не приводит отдельной оценки её качества или результатов тестирования. В карточке заявлена поддержка английского языка. Репозиторий содержит веса safetensors в формате для MLX, а не отдельную квантизацию. Лицензия указана как other, поэтому перед использованием следует свериться с условиями лицензирования исходной модели NVIDIA и репозитория.

amd/Llama-3.2-1B-Instruct-FP8-KV — это FP8-квантизованная версия инструкционной языковой модели Meta Llama-3.2-1B-Instruct, подготовленная Advanced Micro Devices (AMD) с использованием инструмента Quark и калибровочных образцов из датасета Pile. Модель предназначена для выполнения текстовых инструкций и генерации текста; README не содержит сведений о поддерживаемых языках, модальностях и размере контекстного окна. Квантизации подвергнуты все линейные слои, кроме lm_head. Веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием на тензор, что ориентировано на эффективное развертывание и инференс. Экспорт выполняется в собственном формате Quark, совместимом с backend vLLM. По данным оценки на Wikitext-2, perplexity составляет 13,4320 против 13,1657 у исходной модели; результаты получены в режиме псевдоквантизации и могут отличаться от показателей при фактическом квантизованном инференсе. Лицензия указана как llama3.2; изменения принадлежат Advanced Micro Devices, Inc. за 2024 год.

Llama-3.2-3B-Instruct-GGUF — квантованная версия инструкционной языковой модели Llama-3.2-3B-Instruct, разработанной Meta и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-взаимодействие и вызов инструментов с формированием JSON-запросов функций. Модель содержит около 3 миллиардов параметров, работает с текстом и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный размер контекста составляет 128 000 токенов. Доступны варианты квантования от Q2_K до Q8_0 и F16 с размером файлов примерно от 581 МБ до 1,32 ГБ. В README рекомендуются варианты Q4_K_M, Q5_K_M и Q5_K_S как компромисс между размером и качеством; более агрессивное квантование уменьшает размер, но может заметно ухудшать качество ответов. Модель подходит для локального запуска на устройствах с ограниченными ресурсами и интеграции через LlamaEdge, включая сервисный и командный режимы. Для работы требуется совместимая версия LlamaEdge; в README указана версия v0.16.5 или новее. Ограничения включают снижение качества в младших вариантах квантования, а также отсутствие сведений о мультимодальности и подробных результатах оценки. Модель распространяется по лицензии Llama 3.2.

Llama-3-Alpha-Centauri-v0.1 — экспериментальная чат-модель семейства Llama 3, созданная автором серии Centaurus на основе дообучения и слияния моделей. Она предназначена для генерации ответов, рассуждений и анализа, в том числе по темам STEM, компьютерных наук, программирования и социальных наук. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст длиной до 8192 токенов. В карточке указана цель создать менее цензурированную модель; среди упомянутых возможностей — логическая дедукция, критическое мышление и анализ. В метаданных отмечен набор NobodyExistsOnTheInternet/ToxicQAFinal. README сообщает о настройках LoRA и 4-битного обучения, но не уточняет базовый репозиторий, а поля базовой модели в метаданных нет. Автор описывает модель как экспериментальную и предупреждает, что эффективность может меняться. Модель может выдавать токсичные или нежелательные ответы; пользователь отвечает за их интерпретацию и применение. Лицензия — llama3.

MistralLite — языковая модель Amazon, дообученная на базе Mistral-7B-v0.1 для работы с длинными контекстами. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — до 32 768 токенов. При дообучении использованы адаптация Rotary Embedding с rope_theta=1000000 и скользящее окно размером 16 384 токена. Модель предназначена для извлечения строк и тем из длинных текстов, суммаризации и ответов на вопросы по предоставленному контексту. По карточке, она лучше справляется с рядом задач извлечения и ответа по длинному контексту и может обслуживаться на одном экземпляре AWS g5.2xlarge, а также через TGI или vLLM. README сравнивает её с Mistral-7B-Instruct-v0.1, но указывает дообучение именно от Mistral-7B-v0.1. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов сравнительных тестов, а длина контекста в конкретном обслуживании зависит от настроек сервера; приведённые примеры задают пределы ниже заявленных 32 768 токенов.

CISCai/Mistral-Nemo-Instruct-2407-SOTA-GGUF — это набор квантизированных моделей в формате GGUF на основе Mistral-Nemo-Instruct-2407, разработанной Mistral AI. Квантизацию выполнил CISC с использованием importance matrix, обученной примерно на 1 млн токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через llama.cpp, сторонние графические интерфейсы и библиотеки, совместимые с актуальными версиями llama.cpp. Модель поддерживает текстовую модальность и английский язык. Встроенный шаблон чата Mistral Tekken включает поддержку function calling через OpenAI-совместимый параметр tools; также были исправлены связанные с tool calls проблемы токенизации и шаблона чата. Репозиторий содержит варианты квантизации IQ1_S, IQ1_M, IQ2, IQ3 и IQ4 с эффективной разрядностью примерно от 1,56 до 4,5 бит на вес и размером файлов примерно от 2,8 ГБ, что позволяет выбирать между экономией памяти и качеством. Главное преимущество набора — возможность локального запуска при ограниченных ресурсах и наличие вариантов с разным компромиссом между размером, требованиями к оперативной памяти и качеством. Низкоразрядные варианты характеризуются существенной или высокой потерей качества, поэтому для более требовательных задач предпочтительны более точные варианты. Файлы совместимы с llama.cpp начиная с версии от 22 июля 2024 года, включая commit 50e0535. Модель распространяется по лицензии Apache-2.0.

AMD Mixtral-8x7B-Instruct-v0.1-w4a16-llmcompressor — это квантизированная версия языковой модели Mixtral-8x7B-Instruct-v0.1 от Mistral AI, подготовленная AMD для оптимизированного CPU-инференса. Модель реализует архитектуру MixtralForCausalLM, принимает текст и генерирует текст, ориентирована на задачи диалоговой генерации и общего следования инструкциям на английском языке. Модель использует разреженную Mixture-of-Experts-архитектуру Mixtral-8x7B и 4-битное квантизирование весов W4A16 методом GPTQ. Веса хранятся в формате INT4 с симметричным групповым квантизированием и размером группы 128, а активации остаются в BF16. Маршрутизатор MoE и lm_head сохранены в BF16. Объём весов уменьшен примерно с 87,0 до 22,8 GiB, то есть примерно на 74%. Данные о максимальной длине контекста в README не указаны; для калибровки использовалась длина последовательности до 2048 токенов. Основной сценарий использования — инференс на процессорах AMD EPYC под Linux с применением vLLM, ZenDNN и ZenTorch. По приведённой оценке на GSM8K модель сохранила 98,83% результата BF16-базовой версии: 0,6331 против 0,6406. Ограничения включают зависимость от совместимого программного стека и аппаратной платформы, а также возможное снижение качества из-за квантизации. Модель распространяется по лицензии Apache-2.0.

Это набор файлов модели Qwen3-8B-bf16 в формате GGUF, подготовленный сообществом mlx-community при поддержке TensorBlock. Репозиторий содержит варианты с разными уровнями квантования и совместим с llama.cpp начиная с коммита b5753; метаданные также указывают библиотеку MLX. Для диалога используется шаблон с сообщениями system, user и assistant. Модель предназначена для генерации текста и диалогов. Её можно применять для ответов на вопросы, написания черновиков и помощи с кодом. Варианты квантования отличаются размером и качеством: README предупреждает о значительной потере качества у самых компактных вариантов Q2_K и Q3_K. Указана лицензия Apache-2.0.

NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это квантизированная версия языковой модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B, разработанной NVIDIA и автоматически преобразованной в формат GGUF проектом ggml-org. В качестве исходной модели указана NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16. Модель предназначена для генерации текста и может использоваться в приложениях, поддерживающих формат GGUF и совместимых с llama.cpp или аналогичными инструментами. Из доступных данных известны размер 30B и обозначение A3B, однако подробности архитектуры, число активных параметров, длина контекста, поддерживаемые языки и дополнительные модальности не указаны. Формат GGUF удобен для локального запуска и интеграции с соответствующим программным обеспечением, но конкретные требования к памяти, производительность и качество генерации зависят от варианта квантизации и оборудования. Лицензия обозначена как other, без дополнительных условий в представленном README. Поэтому перед использованием необходимо ознакомиться с лицензией исходной модели NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 и условиями распространения данной сборки.

OpenHermes-2.5-neural-chat-v3-3-Slerp — языковая модель Weyaxi, созданная слиянием через mergekit моделей Intel/neural-chat-7b-v3-3 и teknium/OpenHermes-2.5-Mistral-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и диалогов. Для общения в README рекомендуется шаблон ChatML. Указанное окно контекста — 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста. Репозиторий содержит веса safetensors; для этой модели также опубликованы отдельные варианты квантования GPTQ, GGUF и AWQ. Лицензия — Apache-2.0. README приводит результаты оценки на нескольких бенчмарках, но не описывает языковое покрытие или специализированные области применения.

OpenThinker2-7B — языковая модель с открытыми весами, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts2-1M и содержит 7,1 млрд параметров. Модель построена на архитектуре Qwen2 и доступна в формате Safetensors; контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов с акцентом на рассуждения, в частности при решении математических задач и задач на программирование. В README приведены результаты оценивания на математических и научных бенчмарках, а также LiveCodeBench; модель позиционируется как конкурентоспособная среди открытых моделей класса 7B. Она может быть полезна для обучения, экспериментов и создания приложений, которым нужны ответы с рассуждениями. Модель использует интерфейс чата и поддерживает интерфейс вызова инструментов. Данные не подтверждают отдельную языковую специализацию, поэтому язык применения следует выбирать с учётом возможностей базовой Qwen2.5-7B-Instruct. Лицензия — Apache 2.0.

Карточка модели baerquants/OpenThinker3-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker3-7B, поэтому описание составлено по ней. OpenThinker3-7B — языковая модель с открытыми весами, разработанная командой Open Thoughts для задач рассуждения. Она дообучена методом supervised fine-tuning на базе Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts3-1.2M, включающем вопросы по математике, программированию и естественным наукам. По данным авторов, модель обучалась без RL и показала улучшение по сравнению с предыдущими моделями OpenThinker в приведённых тестах. Модель имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов; поддерживаются чатовый режим и интерфейс вызова инструментов. Модель предназначена для решения математических задач, написания и анализа кода, научных вопросов и пошагового рассуждения. Доступна по лицензии Apache 2.0.

Карточка модели luganoquant/OpenThinker3-7B на Hugging Face совпадает с карточкой open-thoughts/OpenThinker3-7B, поэтому описание составлено по ней. OpenThinker3-7B — языковая модель с открытыми весами, разработанная командой Open Thoughts для задач рассуждения. Она дообучена методом supervised fine-tuning на базе Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts3-1.2M, включающем вопросы по математике, программированию и естественным наукам. По данным авторов, модель обучалась без RL и показала улучшение по сравнению с предыдущими моделями OpenThinker в приведённых тестах. Модель имеет плотную архитектуру Qwen2 с 7,1 млрд параметров, принимает текст и генерирует текст. Контекст составляет до 32 768 токенов; поддерживаются чатовый режим и интерфейс вызова инструментов. Модель предназначена для решения математических задач, написания и анализа кода, научных вопросов и пошагового рассуждения. Доступна по лицензии Apache 2.0.

duyntnet/Phi-3.5-mini-instruct-imatrix-GGUF — набор квантованных версий модели Phi-3.5-mini-instruct, разработанной Microsoft и опубликованной пользователем duyntnet в формате GGUF с использованием imatrix. Модель относится к семейству Phi-3 и предназначена для генерации текста и выполнения инструкций в диалоговом формате; для работы подходят llama.cpp, JanAI, KoboldCPP, text-generation-webui, Ollama и GPT4All. Модель обучалась на синтетических данных и отфильтрованных общедоступных веб-материалах с акцентом на качественные данные для рассуждений. Она поддерживает контекст до 128 000 токенов, словарь размером до 32 064 токенов и, согласно карточке, ориентирована на английский язык. Обучение включало supervised fine-tuning, proximal policy optimization и direct preference optimization, что направлено на соблюдение инструкций и повышение безопасности ответов. К преимуществам относятся компактность исходной модели, длинный контекст, поддержка локального запуска и наличие нескольких уровней квантования, потенциально снижающих требования к ресурсам. Ограничения связаны с тем, что квантование может влиять на качество по сравнению с исходной моделью, а сведения о конкретных размерах файлов, параметрах и характеристиках отдельных вариантов в карточке не приведены. Лицензия указана как other, без подробного описания условий использования.

Thrillcrazyer/Phi4_LoopUS — разговорная языковая модель для генерации текста, построенная на базе Microsoft Phi-4 с применением посттренировочного фреймворка LoopUS. Разработка LoopUS описана исследователями BAELAB Пусанского национального университета и DOLAB Университета Чангвон; карточка модели указывает дообучение Phi-4 и формат safetensors. LoopUS преобразует предобученный трансформер в архитектуру с энкодером, рекурсивным блоком уточнения скрытых представлений и декодером. Модель предназначена для диалога и задач рассуждения; выборочное управление передачей скрытых состояний призвано снижать дрейф, а голова уверенности позволяет досрочно завершать вычисления. Базовая Phi-4 ориентирована прежде всего на английский язык и поддерживает генерацию текста, рассуждения, математику и программирование. Модель распространяется по лицензии Apache-2.0. Карточка не приводит отдельные измерения качества или подробные ограничения именно этой версии, поэтому её преимущества для конкретных задач следует оценивать по результатам тестирования.

Карточка модели Openintelligent123/Phi-4-reasoning на Hugging Face совпадает с карточкой microsoft/Phi-4-reasoning, поэтому описание составлено по ней. Phi-4-reasoning — открытая по весам языковая модель Microsoft Research, дообученная на базе Phi-4 с помощью supervised fine-tuning на примерах цепочек рассуждений и обучения с подкреплением. Она предназначена для диалоговых генеративных приложений, где важны рассуждения и логика, а также ограничены вычислительные ресурсы или допустимая задержка. Основные области обучения и оценки — математика, наука и программирование; модель рассчитана прежде всего на английский язык. Модель использует плотный декодерный Transformer архитектуры Phi-3 с 14,1 млрд параметров и контекстом до 32 768 токенов. При инференсе рекомендуется ChatML-шаблон; для более сложных запросов авторы советуют выделять больше токенов на генерацию. Модель может ошибаться и не проходила оценку для всех прикладных сценариев, поэтому ответы следует проверять, особенно при использовании в задачах с высокими последствиями. Лицензия — MIT.