II.8Инженерия данных и аналитика

bunnycore/Qwen2.5-1.5B-Matrix — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В качестве базовой использована Qwen/Qwen2.5-1.5B-Instruct; в объединение также вошли варианты Qwen2.5 для математики и программирования и Josiefied-Qwen2.5-1.5B-Instruct-abliterated-v1. Модель имеет архитектуру Qwen2ForCausalLM и 1,5 млрд параметров. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции, задачи по программированию и математике. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель доступна в формате safetensors для библиотеки Transformers. Сочетание нескольких специализированных моделей расширяет набор задач, для которых её можно применять, но README не приводит сравнительных оценок качества или подробных результатов тестирования. Лицензия в предоставленных данных не указана.

RedHatAI/Qwen2.5-VL-7B-Instruct-FP8-Dynamic — квантованная версия мультимодальной модели Qwen2.5-VL-7B-Instruct, разработанная Neural Magic. Модель принимает изображения и текстовые запросы, а генерирует текстовые ответы. Она предназначена для визуально-текстовых задач: визуального вопросно-ответного взаимодействия, анализа документов, диаграмм и графиков, решения математических задач по изображениям, а также для ряда общих текстовых бенчмарков. Модель имеет архитектуру Qwen2.5-VL-7B-Instruct с заявленным размером 7B параметров. Для весов и активаций используется динамическая квантование FP8; при этом визуальная башня, мультимодальный проектор и lm_head не квантовались. Модель рассчитана на эффективный инференс через vLLM версии 0.5.2 и новее, поддерживает OpenAI-совместимое предоставление сервиса. В README явно указан английский язык, а максимальная длина контекста в примере развертывания составляет 4096 токенов. К сильным сторонам относятся снижение вычислительных и memory-затрат при сохранении качества исходной модели: на приведённых тестах средний результат на vision-задачах составил 76,50 против 75,95 у базовой модели. Ограничения включают зависимость от совместимого стека vLLM, необходимость мультимодальной инфраструктуры для работы с изображениями и отсутствие подробных сведений о поддерживаемых языках, фактическом размере контекста и результатах вне указанных оценок. Модель распространяется по лицензии Apache-2.0.

Sequelbox Qwen3-4B-Thinking-2507-DAG-Reasoning — экспериментальная специализированная языковая модель Sequelbox, созданная дообучением Qwen/Qwen3-4B-Thinking-2507. Она генерирует текст и предназначена для причинного анализа: выявляет связи между факторами, оценивает уверенность и формирует результат в виде структурированного ориентированного ациклического графа (DAG), представленного в JSON. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Модель подходит для анализа причин и следствий в программировании, науке, бизнесе, экономике, финансах, праве, логистике и управлении, а также для подготовки графов к визуализации или дальнейшей обработке. Для получения структурированного DAG следует явно запросить граф или анализ; модель также может ответить в обычном стиле Qwen3. Карточка описывает её как ранний экспериментальный выпуск и рекомендует проверять структуру выходных данных перед продуктивным использованием. Доступна по лицензии Apache-2.0.

Youssofal/Qwen3.8-27B-MTPLX-Bare-Speed — это 4-битная quantized-версия Qwen/Qwen3.8-27B, подготовленная разработчиками MTPLX для быстрого локального запуска на компьютерах Mac с Apple Silicon. Модель предназначена для диалогов, генерации текста и кода, а также сценариев локального использования через MTPLX Mac app или командный интерфейс. Сохранённая встроенная голова multi-token prediction позволяет применять speculative decoding и ускорять генерацию примерно в два-три раза по сравнению с обычным декодированием. Модель использует MLX-пакет с 4-битными матрицами весов и группами по 64 значения; свёрточные ядра GDN, параметры рекуррентного состояния, нормализации и MTP-head хранятся в 16-битном формате. Глубина MTP составляет 3, контекстное окно — 262 144 токена, размер загрузки — 16 ГБ, пиковое потребление unified memory — около 17 ГБ. Указанные настройки sampling: temperature 1.0, top-p 0.95 и top-k 20; поддерживаются уровни reasoning effort xhigh, medium и low. Модель рассчитана на MacBook Pro, MacBook Air, Mac mini и Mac Studio с чипами M1–M5 и минимум 32 ГБ unified memory. Главное преимущество — высокая скорость генерации, особенно в коротких чат-сценариях: на MacBook Pro с M5 Max заявлено до 65,2 токена в секунду для coding-задачи и 32,4 токена в секунду при длинной генерации. Компромисс — более грубая 4-битная quantization: авторы README прямо указывают на более низкое качество и меньшую скорость на длинных задачах программирования по сравнению с вариантом Optimized Speed. Для M1 и M2 рекомендуется отдельная FP16-сборка. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это многоэтапная fine-tune-модель на базе Qwen3.8-27B, опубликованная schwyzquant и созданная с использованием наработок DavidAU и инструментов Unsloth. Модель распространяется в формате GGUF, включая обычные и MTP-варианты квантования, с заявленной поддержкой 4- и 8-битных конфигураций. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, художественной прозы, ролевого взаимодействия и других сценариев генерации текста. Основные заявленные цели дообучения — повысить способность к решению задач, сократить объём рассуждений и ускорить генерацию при сохранении детализации и качества ответов. Указаны языки English и Chinese; архитектура основана на Qwen3.8 с 27 миллиардами параметров. Размер контекста в README не указан. К сильным сторонам относятся акцент на подробных ответах, программировании, творческих сценариях и сокращении избыточного «мышления», а также возможность запуска квантованных вариантов на потребительском оборудовании. Заявления о превосходстве над базовыми и другими моделями основаны на приведённых автором бенчмарках и не сопровождаются независимой проверкой в README. Ограничения включают отсутствие подробных данных о контекстном окне, точной архитектуре, системных требованиях и качестве по отдельным задачам; характеристики могут различаться между квантованными версиями. Модель описывается как uncensored, поэтому её ответы могут требовать дополнительной фильтрации и контроля. Лицензия — Apache-2.0.

Qwen3.8-Flash-Next-MLX-4bit — это сборка модели Qwen3.8-Flash-Next, адаптированная проектом PipeNetwork для запуска через MLX на компьютерах с Apple Silicon. Модель предназначена прежде всего для генерации текста и программного кода в локальном окружении с поддержкой mlx-lm. В состав репозитория входит собственный runtime для экспериментальной архитектуры qwen4_exp, поэтому для загрузки требуется trust_remote_code=True. Базовая модель имеет гибридную архитектуру Gated-DeltaNet и sparse attention с разреженной Mixture-of-Experts на 125 млрд параметров, из которых около 6 млрд активируются для одного токена, а также использует 51 млрд параметров hashed n-gram embedding. В этой версии веса преобразованы в формат MLX и преимущественно квантизированы до 4 бит: размер сборки составляет 103,8 ГБ против 360 ГБ у исходной версии в bfloat16. Часть параметров, включая маршрутизатор MoE и отдельные управляющие компоненты, сохранена в bfloat16. Vision tower также присутствует в bfloat16, но данный runtime работает только с текстом. Мультитокеновая prediction head размером 4 млрд параметров исключена. Языки и точное максимальное окно контекста в README не указаны. Сильной стороной сборки является существенное уменьшение занимаемого объёма при сохранении работоспособной генерации; runtime содержит исправления, обеспечивающие соответствие эталонной реализации на тестовой конфигурации. Однако равномерное 4-битное квантование заметно ухудшает качество: на тесте wikitext-2 perplexity составила 5,3914 против 4,4708 у bfloat16. В README рекомендуется смешанная сборка с 4- и 8-битным квантованием, которая занимает 106,2 ГБ и показывает значительно меньшую потерю качества. Модель распространяется по Qwen Community License 1.0.

Qwen3-Reranker-8B-mxfp8 — конвертированная в формат MLX модель reranker из семейства Qwen3, опубликованная сообществом mlx-community на основе Qwen/Qwen3-Reranker-8B. Она предназначена для ранжирования текстовых кандидатов по релевантности запросу, например для сортировки результатов поиска или отбора фрагментов для RAG. Модель имеет плотную авторегрессионную архитектуру Qwen3 и 7,6 млрд параметров; базовый контекст составляет 40 960 токенов. Метаданные указывают поддержку генерации текста и ранжирования, но основное пользовательское назначение — reranking. Репозиторий содержит веса safetensors, а README описывает конверсию в MLX с помощью mlx-embeddings 0.0.3. Лицензия Apache-2.0.

viaqlo/Qwen3-VL-4B-Instruct-ara — производная мультимодальная модель на основе Qwen/Qwen3-VL-4B-Instruct, созданная методом abliteration. Она предназначена для диалогов с изображениями и видео, визуального рассуждения, распознавания текста на изображениях и обычных текстовых запросов. Модель сохраняет архитектуру Qwen3-VL плотного типа с 4 млрд параметров; базовая модель заявляет контекст до 256 тыс. токенов с возможностью расширения до 1 млн и поддержку OCR на 32 языках. В карточке приведено сравнение с исходной моделью: доля отказов снизилась с 97 из 100 до 4 из 100, а KL divergence составляет 0,0265. Это указывает на ослабление отказного поведения и может означать меньшую осторожность при ответах. Модель распространяется в формате safetensors через Transformers по лицензии Apache-2.0.

Starling-LM-7B-beta-GGUF — это квантизированная GGUF-версия языковой модели Starling-LM-7B-beta, разработанной Nexusflow на основе openchat/openchat-3.5-0106 и Mistral-7B-v0.1. GGUF-квантизация выполнена bartowski с использованием llama.cpp. Модель содержит около 7 млрд параметров и предназначена для генерации текста. Модель ориентирована на многошаговый диалог, общие вопросы, выполнение повседневных текстовых задач и программирование. Она обучалась с применением reward model Nexusflow/Starling-RM-34B и оптимизации PPO на данных berkeley-nest/Nectar, что направлено на улучшение качества ответов и следования предпочтениям в диалогах. Поддерживается английский язык. Модель текстовая и не предназначена для обработки изображений или других мультимодальных данных. Для работы рекомендуется шаблон OpenChat; для задач программирования предусмотрен шаблон OpenChatCode. Системный промпт модель не поддерживает. README не указывает размер контекстного окна и конкретные требования к ресурсам, поэтому эти характеристики нельзя надежно определить из доступных данных. К преимуществам относятся компактный размер, пригодность для локального запуска в формате GGUF и специализация на диалогах и коде; ограничения включают англоязычную ориентацию, отсутствие мультимодальности и зависимость качества от выбранной квантизации и параметров запуска. Модель распространяется по лицензии Apache-2.0.

Ternary-Bonsai-2-27B-ConstantKV — дообученная модель tfwnotops на базе Ternary-Bonsai-2-27B-Crystal для генерации текста и диалогов с постоянным объёмом состояния внимания при длинном контексте. В основе — плотная гибридная архитектура семейства prism_hadamard_qwen35 с весами Qwen3.8-27B в троичном представлении; карточка описывает 16 слоёв полного внимания и механизм, сочетающий точное окно последних 1 024 токенов, свёрнутое состояние для дальнего контекста и хранилище точных ключей и значений размером до 8 192 токенов на KV-голову. Модель доступна в формате safetensors и использует библиотеку MLX. Модель рассчитана на локальную генерацию и ответы по длинным документам, а также на дополнение кода. По данным карточки, объём состояния внимания остаётся около 1,18 ГиБ независимо от длины контекста; заявлен запуск на Mac mini M4 с 16 ГБ памяти при контексте до 32 тыс. токенов. Карточка также указывает интерфейс вызова инструментов и повторное использование ранее вычисленных ответов через карту .mrail. Указанные измерения и возможности приведены авторами карточки; независимая проверка здесь не проводилась. Лицензия — Apache-2.0. Карточка не сообщает о специальной языковой или предметной специализации, поэтому модель следует считать общей текстовой моделью; конкретная поддержка языков отдельно не заявлена.

TurdusBeagle-7B — языковая модель на архитектуре Mistral, созданная объединением udkai/Turdus и mlabonne/NeuralBeagle14-7B методом SLERP с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и принимает текст для генерации текста; контекст — до 32 768 токенов. Модель подходит для диалогов, следования инструкциям, рассуждений и творческой генерации текста — эти возможности указаны для базовой NeuralBeagle14-7B. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0.

Карточка модели LCM-Lab/1.2steps300_full_streaming_64k_qwen3-8b_wfrozen на Hugging Face совпадает с карточкой LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen, поэтому описание составлено по ней. LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen — дообученная плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-4B, опубликованная LCM-Lab. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса Safetensors, модель содержит около 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. README озаглавлен «Elastic Attention: Test-time Adaptive Sparsity Ratios for Efficient Transformers», что указывает на связь модели с исследованием адаптивной разреженности внимания при работе трансформеров. Лицензия — Apache-2.0. Карточка не раскрывает конкретные результаты тестирования или подробные ограничения качества.

bhenrym14/airoboros-33b-gpt4-1.4.1-lxctx-PI-16384-fp16 — текстовая модель семейства LLaMA, созданная bhenrym14 на основе Airoboros 33B GPT4 1.4.1. Это дообучение QLoRA на синтетических данных Airoboros GPT4 1.4.1 с дополнительным предварительным обучением на последовательностях длиной 8192 токена и RoPE-масштабированием для расширения контекста. Модель содержит 32,3 млрд параметров и использует формат safetensors; метаданные указывают нативный контекст 2048 токенов, а в карточке заявлена теоретическая длина до 16384 токенов. Модель предназначена для диалоговых ответов, ответов по предоставленному контексту, генерации кода, ролевого общения, шуток и загадок. В README приведены примеры кода на десяти языках программирования, но естественные языки обучения или поддержки не указаны. По тестам на perplexity автор сообщает улучшение относительно модели Airoboros 33B PI-8192 на проверенных длинах 512–2048 токенов; поведение при длине контекста свыше 8192 токенов не проверено. Для запуска карточка описывает использование Transformers либо GPTQ-весов через text-generation-webui и ExLlama с настройками max_seq_len=16384 и compress_pos_emb=8. Лицензия в предоставленных данных не указана. В исходной карточке сказано, что модель не отказывает в ответах независимо от законности или моральной приемлемости запроса, поэтому её ответы требуют соответствующего контроля.

LLukas22/all-mpnet-base-v2-embedding-all — англоязычная модель на архитектуре MPNet, дообученная автором на базе all-mpnet-base-v2 для получения эмбеддингов предложений и оценки их сходства. Она предназначена для поиска семантически близких текстов и ранжирования документов по релевантности, в том числе в системах вопросов и ответов и информационного поиска. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторные представления, которые можно сравнивать для поиска похожих фрагментов. Контекст ограничен 514 токенами. Для обучения использованы SQuAD, NewsQA, CQADupStack, FiQA, SciDocs, GermanQuAD и Natural Questions; автор приводит результаты ранжирования для нескольких эпох. Модель разработал LLukas22 в рамках магистерской работы об использовании трансформерных языковых моделей в сервисных информационных системах. Модель распространяется по лицензии Apache-2.0. Карточка описывает применение Sentence-Transformers; датасеты охватывают вопросы и ответы, финансовую и научную тематику, но это не означает специализацию модели на этих областях.

Absolute Zero Reasoner-Coder-3b-GGUF — квантизированная версия модели Absolute_Zero_Reasoner-Coder-3b, разработанной andrewzh и подготовленной пользователем bartowski в формате GGUF для llama.cpp. Модель предназначена для генерации текста, включая задачи рассуждения и программирования, и может использоваться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до 3-битных и IQ-квантизаций размером примерно от 1,5 до 6,18 ГБ. В README не указаны точная архитектура исходной модели, размер контекста, поддерживаемые языки и модальности, поэтому модель следует рассматривать как текстовую, без подтверждённой поддержки изображений или других типов данных. Старшие варианты квантизации обеспечивают более высокое качество, а младшие снижают требования к оперативной памяти ценой заметной потери качества; рекомендуемыми названы варианты Q4–Q6. Лицензия в предоставленных данных не указана. Это локальная квантизированная сборка, поэтому её практическая ценность особенно высока для запуска на пользовательском оборудовании без облачного сервиса, однако производительность и качество зависят от выбранного варианта квантизации и совместимого программного обеспечения.

bce-embedding-base_v1 — модель эмбеддингов семейства BCEmbedding, разработанная командой Youdao и опубликованная пользователем maidalun1020. Она предназначена для построения векторных представлений текста и семантического поиска, в первую очередь для поиска фрагментов в системах RAG. Модель использует архитектуру XLM-RoBERTa с плотным энкодером; в метаданных указано 305,2 млн параметров и контекст до 514 токенов. Модель поддерживает китайский и английский языки, включая межъязыковой поиск между ними. Двухкодировочная архитектура рассчитана на эффективный первичный отбор текстов; карточка рекомендует при необходимости дополнить поиск отдельным реранкером BCEmbedding. Модель не требует специальных инструкций для запросов и может применяться в разных областях, включая образование, право, финансы и медицину. Модель принимает текст и выдаёт векторные представления. В репозитории указаны веса PyTorch и лицензия Apache-2.0. Заявленная языковая поддержка ограничена китайским и английским; перенос качества на другие языки не подтверждён карточкой.

ArnavKewalram/bge-small-code-v1 — текстовая Sentence Transformer-модель, дообученная разработчиком на базе BAAI/bge-small-en-v1.5. Она преобразует предложения и абзацы в плотные векторы размерностью 384 для поиска и сравнения текстов. Архитектура основана на BERT: используется CLS-пулинг и нормализация эмбеддингов, а сходство можно оценивать косинусной мерой. Модель рассчитана на текстовые сценарии, включая семантический поиск и извлечение релевантных фрагментов. Метаданные указывают 40 млн параметров и контекст до 512 токенов; в README указан максимальный размер последовательности 384 токена. Карточка называет базовую модель англоязычной, поэтому применение для кода или других языков не следует считать подтверждённым одним лишь названием репозитория. Лицензия в доступных данных не приведена.

darkmaniac7/bge-small-en-MNN — это конверсия модели эмбеддингов BAAI/bge-small-en-v1.5 в формат MNN, подготовленная TokForge для локального вывода на Android, Linux и iOS. Модель предназначена для построения векторных представлений текстов, семантического поиска, sentence similarity, RAG, а также формирования embeddings для памяти и задач reflection на устройствах без зависимости от GGUF/llama.cpp. Исходные веса разработаны Beijing Academy of Artificial Intelligence, а конверсия не содержит новых весов. Модель основана на 12-слойном BERT-энкодере с 33 млн параметров, размером скрытого состояния 384, 12 attention heads и промежуточным слоем размерности 1536. Используются CLS-пулинг и L2-нормализация; размер итогового embedding — 384, максимальная длина последовательности — 512 токенов. Веса представлены в fp16, размер файла составляет около 64 МБ. Поддерживается английский язык; модель принимает токенизированный текст и возвращает last_hidden_state, из которого извлекается embedding CLS-токена. Сильная сторона модели — возможность эффективного on-device-инференса через MNN и практически полное совпадение качества с GGUF-базовой версией в указанном синтетическом retrieval-тесте: для Recall@1, @3, @5 и @10 регрессии не выявлено, а среднее межмодельное cosine similarity составило 0,9962. Ограничения включают поддержку только английского языка, предел в 512 токенов и необходимость корректно выполнять CLS-пулинг, L2-нормализацию и, для асимметричного поиска, добавлять стандартный BGE-префикс к запросу. Модель распространяется по лицензии MIT.

DeepSeek-R1-Qwen-lorablated-32B — плотная языковая модель на архитектуре Qwen2, созданная nbeerbower слиянием DeepSeek-R1-Distill-Qwen-32B и Qwen2.5-32B-abliterated-LORA методом task arithmetic с помощью mergekit. Модель содержит 32 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы, рассуждений и решения задач, в том числе по математике и программированию — такие возможности указаны для базовой модели. В метаданных также отмечен интерфейс вызова инструментов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробных инструкций по применению, поэтому производительность конкретных сценариев не подтверждена.

unsloth/DeepSeek-V3-0324-GGUF-UD — это набор динамически квантованных версий DeepSeek-V3-0324, подготовленный Unsloth на базе модели deepseek-ai/DeepSeek-V3-0324 в формате GGUF. Модель предназначена для локального запуска через llama.cpp, LM Studio, Open WebUI и другие совместимые фреймворки инференса. В метаданных указано, что основной язык модели — английский. Доступны варианты с эффективной разрядностью от 1,78 до 4,5 бит и размером файлов примерно от 192 до 384 ГБ. Квантизация Dynamic v2.0 выполняется выборочно; в README заявлено, что это позволяет сохранить более высокую точность по сравнению со стандартными методами квантизации. Модель использует архитектуру MoE, что отражено в описании разрядности компонентов смеси. Версии 2,42 бит IQ2_XXS и 2,71 бит Q2_K_XL рекомендованы как наиболее удачные по соотношению производительности и размера; для запуска желательно иметь не менее 180 ГБ совокупной VRAM и RAM. Сильными сторонами являются возможность локального использования крупной модели в распространённых GGUF-фреймворках и оптимизированная динамическая квантизация. Ограничениями выступают чрезвычайно высокие требования к памяти и большой объём файлов. Варианты IQ1_S и IQ1_M обозначены как предварительные: по результатам тестирования они обычно работают нормально, но иногда хуже справляются с генерацией кода. В метаданных указана лицензия MIT.

WaveCut подготовил квантованную сборку DeepSeek-V4-Flash-0731-REAM96-111B в формате GGUF. Это чат-модель с архитектурой mixture-of-experts: в сборке оставлено 96 из исходных 256 экспертов на слой. Экспертов квантовали до 2 бит, внимание — до 8 бит; для квантования использована importance matrix. Файл ream96.gguf занимает 36,4 ГБ, сборка рассчитана на конфигурации с 48 ГиБ памяти. Модель предназначена для многоязычного диалога, рассуждений, ответов на вопросы о коде и продолжительных бесед. В README отмечено, что многоязычный чат, рассуждения и длинные диалоги показывают стабильные результаты, однако 2-битная квантизация особенно ухудшает агентное поведение. В отдельных прогонах наблюдались сбои в русской игре слов, переключении с английского на русский, вызове инструментов и удержании фокуса в длинном диалоге. Для запуска требуется специализированная ветка DS4 с поддержкой переменного числа экспертов; обычный llama.cpp этот файл не загрузит. Лицензия — MIT. Для конфигураций запуска в README приведён контекст 8192 токена.

LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen — дообученная плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-4B, опубликованная LCM-Lab. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса Safetensors, модель содержит около 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. README озаглавлен «Elastic Attention: Test-time Adaptive Sparsity Ratios for Efficient Transformers», что указывает на связь модели с исследованием адаптивной разреженности внимания при работе трансформеров. Лицензия — Apache-2.0. Карточка не раскрывает конкретные результаты тестирования или подробные ограничения качества.

Gemma-2-9B-Chinese-Chat — языковая модель для диалоговой генерации текста, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Она создана на базе google/gemma-2-9b-it и дообучена для китайско- и англоязычных пользователей с использованием алгоритма ORPO и более чем 100 тысяч пар предпочтений. Обучение проводилось с помощью LLaMA-Factory. Модель предназначена для общения, ролевых сценариев, использования инструментов, решения математических задач, написания текстов и кода. По сравнению с исходной моделью заявлено уменьшение случаев, когда на китайские запросы модель отвечает по-английски, а также снижение смешения китайского и английского языков в ответах. Модель поддерживает китайский и английский языки, содержит около 9,24 млрд параметров и имеет контекстное окно до 8K токенов. Доступны версии BF16 и GGUF, включая варианты q4_k_m, q8_0 и f16. Сильными сторонами модели являются ориентация на китайско-английские диалоги, улучшенные ролевые ответы, работа с инструментами и математикой, а также наличие форматов для локального запуска через совместимые приложения. Ограничения включают контекст длиной 8K токенов и возможную неточность или непредсказуемость ответов в ролевых сценариях; разработчики отдельно предупреждают, что ответы о личности и происхождении модели могут быть случайными. Модель распространяется по Gemma License.

avemio/German-RAG-Alibaba-ModernBert-Triples — модель Sentence Transformer на архитектуре ModernBERT, предназначенная для получения векторных представлений немецких текстов. По README, модель отображает предложения и абзацы в нормализованные плотные векторы размерности 768; сходство оценивается косинусной мерой. В метаданных указано 149 млн параметров, библиотека sentence-transformers и контекст до 8192 токенов. Модель подходит для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации текстов. Название указывает на применение в German RAG и работу с триплетами, однако подробности обучения и конкретные датасеты в предоставленных данных не описаны. Лицензия в источниках не указана.

noctrex/GLM-4.7-Flash-MXFP4_MOE-GGUF — квантизированная версия диалоговой MoE-модели GLM-4.7-Flash от Z.ai, представленная в формате GGUF. Репозиторий содержит вариант квантования MXFP4_MOE. Модель предназначена для диалоговой генерации текста. Базовая GLM-4.7-Flash также описана как модель для рассуждений и программирования; для общего чата README приводит рекомендуемые параметры генерации. Указан интерфейс чата и рекомендации для вызова инструментов. Квантование может снизить требования к памяти при запуске, но карточка не сообщает о замерах качества или скорости именно этой версии. Лицензия и сведения о размере и длине контекста в предоставленных данных отсутствуют.

Granite-4.0-H-350M-Base — компактная базовая языковая модель IBM Granite Team с архитектурой decoder-only: плотный трансформер с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель содержит 278,4 млн параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Она обучена с нуля на смеси открытых и проприетарных данных примерно на 15 трлн токенов. Модель предназначена для генерации текста и может служить основой для суммаризации, классификации и извлечения информации, ответов на вопросы, а также автодополнения кода, включая Fill-in-the-Middle. Компактный размер рассчитан на сценарии с ограниченными ресурсами, в том числе локальное офлайн-развёртывание на мобильных устройствах и IoT-оборудовании. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель не проходила safety alignment и может генерировать предвзятые, недостоверные или проблемные ответы; для небольшой модели также отмечен риск воспроизведения фрагментов обучающих данных. Лицензия Apache 2.0.

mlx-community/granite-4.1-3b-bf16 — конверсия модели IBM Granite 4.1 3B в формат MLX для запуска на устройствах Apple Silicon. Это плотная причинная языковая модель с архитектурой GraniteForCausalLM, содержащая 3,4 млрд параметров и поддерживающая контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста; описание базовой модели также указывает на применение для работы с кодом и вызова инструментов. Модель принимает текст и генерирует текст. Репозиторий использует библиотеку MLX и формат safetensors; лицензия — Apache-2.0. Карточка описывает преобразование из ibm-granite/granite-4.1-3b в MLX, поэтому этот вариант рассчитан на соответствующую среду исполнения, а не является самостоятельным дообучением.

HyperCLOVA X SEED 14B Think — плотная языковая модель семейства HyperCLOVAX, разработанная командой HyperCLOVA X. Она предназначена для диалогов и генерации текста с возможностью пошагового рассуждения, в том числе для математических и кодовых задач. Разработчики использовали pruning и дистилляцию знаний, а затем многоэтапное обучение: SFT, обучение с проверяемыми наградами, настройку длины рассуждений и совместное обучение с обратной связью от людей и проверяемыми наградами. В README приведён размер 14,74 млрд параметров; метаданные указывают 14,1 млрд параметров и контекст 131 072 токена. Архитектура основана на Transformer, Peri-Layer Normalization и μP; модель принимает и выдаёт текст. README сообщает о сильных результатах на корейском языке и знании корейской культуры, а также о конкурентных результатах в математике и программировании. Длину рассуждений можно задавать текстовой инструкцией; поддерживается многоходовый диалог и описан сценарий вызова инструментов. Модель подходит для корейскоязычных диалоговых помощников, решения задач на рассуждение и ответов на вопросы, а также для генерации и объяснения кода. README приводит контекст 32 тыс. токенов, тогда как метаданные указывают 131 072 токена. Лицензия помечена как other, поэтому конкретные условия использования следует проверять в файлах репозитория модели.

Это текстовая инструкционная модель LFM2.5-1.2B-Instruct, изменённая Ричардом Янгом с помощью Heretic: из неё удалено направление активаций, связанное с отказами, без переобучения. Модель имеет плотную гибридную архитектуру с блоками свёртки и внимания и предназначена для локального запуска на устройствах с ограниченными ресурсами. В метаданных указано 1,5 млрд параметров и контекст до 128 000 токенов; карточка базовой модели приводит 1,17 млрд параметров и контекст 32 768 токенов. Модель подходит для диалога, творческого письма, учебных экспериментов с выравниванием и локального выполнения инструкций, которым исходная модель могла отказать. В карточке приведён результат теста отказов: 3 из 100 запросов против 98 из 100 у исходной модели; это не гарантирует поведение на других запросах. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с карточкой репозитория.

Llama-3.1-Swallow-70B-v0.1 — языковая модель команды Swallow из лабораторий Okazaki и YOKOTA Токийского технологического института и AIST. Она создана продолжительным предварительным обучением Meta Llama 3.1 на примерно 200 миллиардах токенов японских и английских текстов, включая веб-материалы, Википедию, математику и код. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом 8192 токена. Модель рассчитана на генерацию текста на японском и английском языках: ответы на вопросы, суммаризацию, машинный перевод, рассуждения, понимание текста и генерацию кода. README сообщает об улучшении японских языковых возможностей при сохранении возможностей английской исходной модели; оценка проводилась на японских и англоязычных бенчмарках. Это базовая версия, не Instruct-вариант, поэтому она не настроена для следования инструкциям и не гарантирует соответствия ответов намерениям пользователя или требованиям безопасности. Распространяется по лицензии Llama 3.1.