I.1Поиск и навигация по информации

Qwen3.8-27B-Uncensored-oQ8e-mtp — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored, подготовленная пользователем pyros-vault для запуска на Apple Silicon и macOS. Артефакт создан в формате MLX с помощью oMLX 0.6.1 и предназначен для развёртывания через runtime oMLX с OpenAI-совместимым API. Модель относится к типу qwen3_5, имеет заявленный максимальный контекст 262 144 токена, поддерживает мультимодальные сценарии благодаря сохранённым ресурсам Vision и включает один слой MTP. Используется смешанная квантизация oQ8e: аффинная Q8/G64 применяется по всей модели без переопределений точности для отдельных тензоров. Размер тензорных данных составляет около 27,94 GiB, модель размещена в шести Safetensors-фрагментах. В README не указаны точные языки, результаты бенчмарков или проверенная производительность. Модель подходит для диалоговых и мультимодальных задач, однако фактические возможности Vision, качество генерации, потребление памяти, скорость и эффективность MTP зависят от версии oMLX, клиента, промпта и аппаратного обеспечения. Полный контекст заявлен только конфигурацией и не подтверждён тестированием; квантизация может влиять на качество. Репозиторий не предназначен для CUDA на Windows, а hosted inference Hugging Face его формат не обслуживает. Прямая исходная модель распространяется по лицензии Apache-2.0; для полного соблюдения условий необходимо учитывать также правила и атрибуцию upstream-модели. Квантизацию и упаковку выполнил pyros-vault.

dealignai/Qwen3.8-Flash-Next-UNCENSORED-FP8 — модифицированная версия Qwen3.8-Flash-Next-FP8 от команды dealignai. Модель предназначена для генерации текста, решения задач и сценариев, где требуется повышенная готовность отвечать на широкий спектр запросов без встроенных отказов. Также заявлена поддержка обработки изображений благодаря сохранённой vision tower. Модель работает в формате FP8 и сохраняет MTP head и vision tower базовой модели. В README также указана архитектура MoE, однако размер модели, максимальная длина контекста и перечень поддерживаемых языков не приведены. По заявленным внутренним тестам, модель демонстрирует более глубокое рассуждение: на пяти логических головоломках она решила четыре задачи против трёх у базовой модели, при этом использовала примерно в 3,5 раза больше токенов рассуждения. На полном тесте MMLU результат составил 80,39% против 83,54% у базовой модели, то есть снижение общей точности знаний сопровождается неоднородными изменениями по отдельным предметам. К сильным сторонам относятся сохранённые мультимодальные возможности, поддержка FP8, отсутствие жёстких отказов в заявленном тестировании HarmBench и увеличение глубины рассуждений. Ограничения включают возможное ухудшение точности на части академических и прикладных тематик, повышенный расход токенов при рассуждении и отсутствие подробных сведений о размере, контексте и языках. Модель распространяется по лицензии Apache-2.0.

Qwen3-EZO-8B-beta — диалоговая языковая модель с плотной архитектурой Qwen3ForCausalLM, разработанная AXCXEPT на базе Qwen/Qwen3-8B. Модель содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Она предназначена для многоходового диалога, генерации текста и параллельной обработки запросов с углублённым рассуждением по технике Deep-Think. Модель можно развернуть через vLLM с совместимым с OpenAI API интерфейсом; в карточке указана работа на одной GPU A40. README приводит внутренние оценки MT-Bench 9,08 и JMT-Bench 8,87, но предупреждает, что результаты могут отличаться при внешней оценке. Модель дообучена на Qwen3-8B, использует формат Safetensors и распространяется по лицензии Apache-2.0. В метаданных указаны японский и английский языки; результаты и заявленные возможности основаны на карточке разработчика.

lunahr/SystemGemma2-27b-it — диалоговая языковая модель, дообученная на основе Google Gemma 2 27B IT. Это плотная авторегрессионная модель-декодер с 27,6 млрд параметров, предназначенная для генерации текста по инструкциям и общения в формате чата. Она принимает текст и может использоваться для ответов на вопросы, суммаризации, рассуждений, написания черновиков и создания чат-ботов. В карточке указана поддержка английского языка; контекст модели составляет до 32 768 токенов. Модель подходит для диалоговых интерфейсов, помощи в работе с текстами и исследовательских экспериментов. Как и другие языковые модели, она может выдавать фактически неверные ответы, испытывать трудности с неоднозначностью и сложными задачами, а также воспроизводить смещения из обучающих данных. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — Gemma; применение регулируется условиями лицензии и политикой допустимого использования Gemma.

Albatross-8B-Instruct — диалоговая языковая модель на архитектуре Llama, созданная автором репозитория слиянием нескольких моделей через TIES в mergekit. В слияние вошли NousResearch/Hermes-3-Llama-3.1-8B, unsloth/Meta-Llama-3.1-8B-Instruct и qingy2024/NaturalLM3-8B-Instruct-v0.1; в качестве базовой модели указана unsloth/Meta-Llama-3.1-8B. Модель содержит 7,5 млрд параметров, использует формат safetensors и библиотеку Transformers, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста в диалоге и выполнения инструкций; метаданные также указывают интерфейс вызова инструментов. Карточка не приводит результатов оценки качества или подробного описания языкового охвата, поэтому её сильные стороны в конкретных задачах и практическую надёжность нельзя оценить по имеющимся данным. Лицензия в предоставленных данных не указана.

Bernstein-120b — объединённая языковая модель, созданная с помощью mergekit линейным слиянием моделей ShinojiResearch/Senku-70B-Full и Sao10K/Euryale-1.3-L2-70B. Модель разработана авторами карточки bcse/Bernstein-120b; архитектура — плотная LlamaForCausalLM, размер — 120,1 млрд параметров, формат весов — Safetensors. Она предназначена для генерации текста и диалогового взаимодействия, поддерживает контекст до 32 764 токенов. Модель принимает текст и генерирует текст; заявленный pipeline — text-generation. Карточка также указывает доступность квантованных вариантов Bernstein-120b в репозиториях mradermacher. Данные не описывают конкретную специализацию по предметной области или языкам. Лицензия в предоставленных сведениях не указана; условия использования следует сверить с карточкой модели и лицензиями исходных моделей.

BLOOM-1b7 — плотная авторегрессионная языковая модель на базе Transformer, разработанная проектом BigScience. Она предназначена для генерации текста, исследования поведения языковых моделей и использования в качестве предварительно обученной основы для дальнейшей настройки. В карточке указаны сценарии извлечения информации, ответов на вопросы и суммаризации; модель также обучалась на данных с кодом. Модель относится к семейству BLOOM и принимает текст, выдавая продолжение текста. Контекст — до 4096 токенов. Метаданные содержат языковые теги для широкого набора естественных языков, а также код; точный размер этой версии в предоставленных данных не указан. Модель выпущена BigScience под лицензией BigScience BLOOM RAIL v1.0. BLOOM может выдавать ошибочную информацию как достоверную, повторяться и воспроизводить стереотипы или оскорбительный контент. Карточка не рекомендует применять её для высокорисковых решений, а также в медицинской, политической, юридической и финансовой сферах.

bartowski/cognitivecomputations_Qwen3-72B-Embiggened-GGUF — это набор GGUF-квантизаций языковой модели Qwen3-72B-Embiggened, разработанной cognitivecomputations. Квантизации подготовлены bartowski с использованием llama.cpp версии b5627 и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio и совместимые проекты. В набор входят варианты от Q8_0 до Q3_K и IQ3/IQ4, размером примерно от 31,76 до 77,26 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, тогда как некоторые варианты Q3 имеют заметно более низкое качество. Отдельные файлы используют legacy-форматы или особенности, оптимизированные для ARM, AVX или Apple silicon. README не содержит сведений о точной архитектуре исходной модели, поддерживаемых языках, максимальном контексте, мультимодальности, результатах тестирования или специализированных сценариях применения. Поэтому модель можно уверенно охарактеризовать как крупную текстовую LLM для локальной генерации текста, но её конкретные возможности следует уточнять в документации исходной cognitivecomputations/Qwen3-72B-Embiggened. Распространение указано по лицензии Apache-2.0.

Citaman/command-r-14-layer — языковая модель CohereForCausalLM на 13,6 млрд параметров, созданная автором репозитория слиянием слоёв модели Citaman/command-r-15-layer методом SLERP через mergekit. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов. Репозиторий содержит веса в формате safetensors. В карточке не приведены сведения о лицензии или конкретных целевых языках, поэтому условия использования и языковой охват по имеющимся данным определить нельзя. Характеристики и качество результата могут зависеть от шаблона диалога и способа запуска.

DeepSeek-V4-Flash-0731-GGUF — это квантизированная версия языковой модели DeepSeek-V4-Flash-0731, разработанной deepseek-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp и Text Generation Web UI. Модель содержит 284 млрд параметров, поддерживает текстовый ввод и поставляется только в формате MXFP4. Доступен вариант размером около 156,38 ГБ, сохраняющий исходное качество квантизации. В модели предусмотрены веса MTP (Multi-Token Prediction) в виде отдельной DSpark draft-модели, которую можно использовать для speculative decoding и ускорения генерации. Языки, максимальная длина контекста и дополнительные модальности в README не указаны. К сильным сторонам относятся большой размер модели, сохранение исходного качества MXFP4 и возможность ускорения вывода с помощью DSpark. Ограничения включают очень высокие требования к дисковому пространству и аппаратным ресурсам, отсутствие imatrix-калибровки на момент публикации и неопределённость стандартного chat template, который может быть задан некорректно. Модель распространяется по лицензии MIT.

DeepSeek-V4-Flash-2bit-DQ — это версия модели DeepSeek-V4-Flash, подготовленная сообществом mlx-community при поддержке Lambda.ai для запуска с использованием библиотеки MLX. Модель предназначена для генерации текста и локального инференса через mlx-lm; в README приведён пример диалогового применения с использованием chat template. Ключевая особенность модели — динамическая смешанная квантизация. Большинство весов экспертов маршрутизируемой MoE-архитектуры упаковано в 2 бита, а чувствительные слои и проекции сохранены в форматах 4, 6 или 8 бит. Такой подход снижает потребление памяти по сравнению с базовым checkpoint с 4-битной квантизацией, сохраняя более высокое качество в критичных компонентах. Точный размер модели, объём контекста, список поддерживаемых языков и модальности в README не указаны. Для использования требуется установить пакет mlx-lm; модель рассчитана на экосистему MLX. Лицензия в предоставленных данных не указана, поэтому условия распространения и коммерческого использования требуют дополнительной проверки.

Solstice-AI/DeepSeek-V4-Flash-Vision-Exp-NVFP4 — мультимодальная модель для задач image-text-to-text, разработанная Solstice-AI на основе экспериментальной модели DeepSeek-V4-Flash-Vision-Exp от DeepSeek. Она предназначена для анализа изображений и текста, визуального контроля качества, распознавания объектов и текста на изображениях, а также текстовой генерации и многошагового рассуждения в сценариях, требующих большого контекста. Модель имеет архитектуру MoE с 305 млрд параметров, 256 маршрутизируемыми экспертами и примерно 13 млрд активируемых параметров на токен; заявлено 43 слоя. Контекстное окно составляет 1 048 576 токенов, используется native YaRN. Зрительная часть включает 32-слойный Vision Transformer и работает в формате BF16. Эксперты квантизированы в SafeTensors NVFP4: W4A4, group size 16, с block-scale calibration. Ключевая особенность — bit-exact транскодирование MXFP4 в NVFP4 без заявленной потери точности. Модель оптимизирована для NVIDIA Blackwell, включая B200, GB200, DGX Spark и RTX 5090, а также для vLLM и TensorRT-LLM. Согласно README, к сильным сторонам относятся сохранение качества базовой модели на GSM8K, тестах извлечения данных из длинного контекста и мультимодальном visual question answering; для vision QA заявлены точное совпадение ответов и время до первого токена менее 50 мс. Ограничения связаны с экспериментальным статусом, специализированной поддержкой оборудования NVIDIA Blackwell и зависимостью от совместимых inference-движков. Модель распространяется по лицензии MIT; упаковка и сопровождение выполнены Solstice-AI, а квантизационный pipeline создан с использованием NVIDIA TensorRT ModelOpt.

DistilQwen2-7B-Instruct — дистиллированная языковая модель Alibaba PAI на архитектуре Qwen2, созданная на основе Qwen2-7B-Instruct. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и генерирует текст; карточка демонстрирует использование в диалоговом формате. Длина контекста — 32 768 токенов. Модель предназначена для следования инструкциям и диалоговых сценариев. Для дистилляции использованы открытые наборы Magpie, OpenHermes и Mammoth 2, а также синтетические данные; основная часть инструкций была на китайском и английском языках. README сообщает об оценивании на AlpacaEval, MT-Bench и IFEval. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

nbeerbower представил слитую модель EVA-Rombos1-Qwen2.5-32B-lorablated на архитектуре Qwen2.5, предназначенную для генерации текста и диалогов. Модель содержит 32 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. Модель создана методом task arithmetic с помощью mergekit из nbeerbower/EVA-Rombos1-Qwen2.5-32B и nbeerbower/Qwen2.5-32B-abliterated-LORA. Она рассчитана на текстовые запросы и выдаёт текст; метаданные также отмечают интерфейс для вызова инструментов. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Язык карточкой не уточнён.

EpistemeAI/Fireball-Mistral-Nemo-Base-2407-sft-v2.2a — дообученная языковая модель EpistemeAI на архитектуре Mistral с плотной архитектурой и 12,1 млрд параметров. Она предназначена для генерации текста; модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Модель основана на EpistemeAI/Fireball-Mistral-Nemo-Base-2407-sft-v2.1 и распространяется в формате Safetensors. Заявленное максимальное окно контекста — 1 024 000 токенов. В метаданных указан английский язык. Лицензия — Apache-2.0.

Gemma-2-27B-it-SimPO-37K-100steps-GGUF — набор GGUF-квантизаций модели AALF/gemma-2-27b-it-SimPO-37K-100steps, подготовленный пользователем bartowski с помощью llama.cpp и imatrix. Это текстовая instruction-tuned модель для генерации ответов по запросам, диалога и других задач обработки текста; запуск предусмотрен через llama.cpp и совместимые приложения, включая LM Studio. Модель имеет заявленный размер 27 млрд параметров и поставляется в вариантах от F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ. Более точные варианты обеспечивают лучшее сохранение качества, но требуют больше памяти; компактные варианты подходят для систем с ограниченным объёмом RAM, при этом качество снижается. Для ARM доступны специальные варианты Q4_0, требующие поддержки соответствующих инструкций процессора. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности и результаты оценивания. К сильным сторонам относятся широкий выбор размеров файлов, возможность локального запуска и применение imatrix-квантования, а также наличие высококачественных вариантов Q6_K_L и Q6_K. Ограничения связаны с существенными требованиями к памяти у крупных вариантов и неизбежной потерей качества при сильном квантовании; сравнительные показатели и область наилучшего применения не приведены. Модель распространяется по лицензии Gemma.

princeton-nlp/gemma-2-9b-it-SimPO — диалоговая причинно-языковая модель, разработанная Yu Meng, Mengzhou Xia и Danqi Chen. Авторы дообучили Google Gemma 2 9B Instruct на наборе предпочтений princeton-nlp/gemma2-ultrafeedback-armorm с помощью SimPO — метода оптимизации предпочтений, который не требует отдельной эталонной модели и задаёт целевой отрыв вознаграждения. Модель предназначена для диалога, ответов на вопросы и генерации текста с учётом человеческих предпочтений. Это плотная архитектура Gemma 2 с 9 млрд параметров и контекстом до 8192 токенов; репозиторий содержит веса Safetensors. В карточке приведены результаты оценки на нескольких бенчмарках, но они не гарантируют качество в конкретном сценарии. Лицензия в метаданных Hugging Face указана как MIT, тогда как README называет лицензию Gemma; условия использования следует сверить с лицензией базовой модели Google Gemma 2 9B Instruct.

Это дообученная модель Gemma 4 12B от автора llmfan46, созданная на основе yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF. Она предназначена для диалоговой генерации текста, программирования и многошагового использования инструментов, включая сценарии работы с терминалом. Модель поддерживает режим рассуждений и использует встроенный протокол вызова инструментов Gemma 4; для запуска в Transformers требуется версия библиотеки с поддержкой архитектуры gemma4_unified. В README описано дообучение на траекториях агентных задач, проверенных задачах Python и данных для общих инструкций. Также автор сообщает о применении abliteration для снижения частоты отказов: в приведённом тесте она отказала в 13 случаях из 100 против 99 у исходной модели. Это не гарантирует качества или безопасности ответов; результаты MMLU близки к результатам исходной модели. Репозиторий использует формат safetensors и лицензию Apache-2.0.

Это GGUF-сборка модели Gemma 4 26B A4B IT, подготовленная FreedomAISVR из Google Gemma 4. Модель основана на инструкционно дообученной архитектуре MoE с 26 млрд параметров, из которых для каждого токена активны около 4 млрд; в описании указаны 128 экспертов и выбор 8 экспертов на токен. Модель предназначена для диалогов и генерации текста, а дополнительный файл mmproj содержит мультимодальный проектор для анализа изображений. Веса представлены в формате GGUF с квантизацией NVFP4, размер текстовой модели — около 13,45 ГБ; проектор изображения поставляется отдельно в F16 и занимает около 1,11 ГБ. Для оптимальной производительности NVFP4 требуется сборка llama.cpp с поддержкой CUDA и видеокарта NVIDIA Blackwell; запуск на CPU возможен, но медленнее. README также описывает гибридное внимание со скользящими локальными и глобальными слоями. Лицензия — Gemma; перед использованием следует соблюдать её условия.

Это мультимодальная GGUF-версия модели OBLITERATUS/gemma-4-E4B-it-OBLITERATED, созданная и квантованная пользователем rdhorner на основе Gemma 4 от Google. Базовая модель представляет собой модифицированную версию gemma-4-E4B-it, обработанную методом OBLITERATUS. Модель предназначена для локального запуска через llama.cpp и совместимые приложения; в метаданных указано около 8 млрд параметров. Модель поддерживает текстовый ввод, изображения и аудио при подключении отдельного файла mmproj, содержащего оба мультимодальных энкодера. Она подходит для диалоговых сценариев, анализа изображений и аудио, использования инструментов и function calling. Поддерживаются OpenAI-совместимые запросы через llama-server, включая tool calls и мультимодальные сообщения. В комплект входят варианты F16, Q8_0, Q5_K_M и Q4_K_M; Q4_K_M рекомендован для локального использования как компромисс между качеством и размером. Для мультимодального режима требуется файл mmproj, а шаблон чата Gemma 4 необходимо включать с параметром --jinja. К сильным сторонам относятся мультимодальность, поддержка вызова инструментов и несколько вариантов квантования для запуска на локальном оборудовании. Модель использует встроенный канал рассуждений Gemma 4, который в OpenAI-совместимых ответах отображается как reasoning_content. При этом модификация OBLITERATED изменила направления отказа в 21 из 42 слоёв, поэтому надёжность вызова инструментов может снижаться в темах, близких к ограничениям безопасности. В README не указаны точный набор поддерживаемых языков и максимальный размер контекста; в примере сервера используется контекст 8192 токена. Модель распространяется по лицензии Apache 2.0, соответствующей лицензии базовой модели.

GLM-5.3-Flash-MLX-mixed-4_8bit — это порт модели GLM-5.3-Flash от zai-org, подготовленный PipeNetwork для MLX и Apple Silicon. Модель предназначена для генерации текста и изображений с текстовыми инструкциями, включая мультимодальные сценарии; vision tower сохранён в формате bfloat16. Архитектура исходной модели не изменена, однако слой multi-token prediction (layer 45) в этой сборке отсутствует. Модель имеет 320B параметров с архитектурой mixture-of-experts и активной конфигурацией A18B. Она объединяет 34 слоя линейного внимания Kimi-Delta и 11 слоёв разреженного внимания DeepSeek с NoPE MLA и lightning indexer, а также использует manifold-constrained hyper-connections. Маршрутизируемые эксперты занимают около 304B параметров и квантизированы в 4 бита, остальные основные компоненты — в 8 бит; параметры vision tower имеют формат bfloat16. Размер файлов составляет 181,9 ГБ. Сильная сторона сборки — существенное сокращение размера относительно 642,7 ГБ для исходной версии bfloat16 при сохранении приемлемого качества: perplexity на wikitext-2 составляет 3,5705 против 3,4607 у 8-битной версии. Для корректной работы рекомендуется исправленный runtime из проекта glm53-flash-mlx; стандартная ветка mlx-vlm содержит известные расхождения в вычислениях. README не указывает поддерживаемые языки и размер контекстного окна. Модель распространяется по лицензии MIT.

Granite-4.1-30B (FP8) — это версия модели IBM Granite 4.1-30B, представленная в формате FP8. Репозиторий подготовлен для использования с библиотекой Transformers и предназначен для языковых задач; более подробные сведения о возможностях и сценариях применения приведены в карточке исходной модели ibm-granite/granite-4.1-30b, которая в предоставленных данных отсутствует. Ключевая характеристика этой версии — представление весов в формате FP8, что может быть полезно для более эффективного хранения и выполнения модели в совместимой инфраструктуре. Из доступного README не указаны архитектура, точный размер в параметрах помимо обозначения 30B, поддерживаемые языки, длина контекста, модальности, результаты тестирования, сильные стороны и ограничения. Модель распространяется по лицензии Apache-2.0.

HyperCLOVA X SEED 14B Think — плотная языковая модель семейства HyperCLOVAX, разработанная командой HyperCLOVA X. Она предназначена для диалогов и генерации текста с возможностью пошагового рассуждения, в том числе для математических и кодовых задач. Разработчики использовали pruning и дистилляцию знаний, а затем многоэтапное обучение: SFT, обучение с проверяемыми наградами, настройку длины рассуждений и совместное обучение с обратной связью от людей и проверяемыми наградами. В README приведён размер 14,74 млрд параметров; метаданные указывают 14,1 млрд параметров и контекст 131 072 токена. Архитектура основана на Transformer, Peri-Layer Normalization и μP; модель принимает и выдаёт текст. README сообщает о сильных результатах на корейском языке и знании корейской культуры, а также о конкурентных результатах в математике и программировании. Длину рассуждений можно задавать текстовой инструкцией; поддерживается многоходовый диалог и описан сценарий вызова инструментов. Модель подходит для корейскоязычных диалоговых помощников, решения задач на рассуждение и ответов на вопросы, а также для генерации и объяснения кода. README приводит контекст 32 тыс. токенов, тогда как метаданные указывают 131 072 токена. Лицензия помечена как other, поэтому конкретные условия использования следует проверять в файлах репозитория модели.

INEX4-7b — языковая модель, созданная Liminerity с помощью mergekit путём слияния моделей liminerity/merge2 и liminerity/merge1. Она предназначена для генерации текста и решения задач на рассуждение; в карточке приведены результаты оценивания на Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Опубликованные веса доступны в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

inception42/jais-family-30b-16k — двуязычная большая языковая модель семейства Jais от Inception Institute of Artificial Intelligence. Это модель с авторегрессивной архитектурой causal decoder, предварительно обученная с нуля; семейство включает варианты разных размеров, а данный репозиторий относится к варианту на 30 млрд параметров. Модель предназначена для генерации текста на арабском и английском языках и может использоваться для диалоговых ассистентов, анализа тональности, суммаризации двуязычных документов и задач обработки естественного языка. Jais оптимизирована для арабского языка и обладает сильными возможностями в английском. Семейство обучалось на арабских, английских и программных данных; карточка описывает варианты с контекстом 16K в названии репозитория. Модель распространяется по лицензии Apache 2.0. Возможны фактические ошибки, смещения и некорректные или оскорбительные ответы; она не предназначена для решений с высокими ставками без человеческого контроля и не должна считаться одинаково компетентной в других языках и диалектах.

LFM2-350M-Extract-GGUF — языковая модель компании Liquid AI, основанная на LFM2-350M и распространяемая в формате GGUF. Она предназначена для извлечения важной информации из неструктурированных документов, включая статьи, расшифровки и отчёты, с преобразованием результатов в структурированные форматы JSON, XML или YAML. Модель подходит для извлечения реквизитов счетов из электронных писем, преобразования нормативной отчётности в XML, структурирования обращений в службу поддержки для аналитических конвейеров, а также наполнения графов знаний сущностями и их атрибутами. В названии указано, что это вариант размером 350M параметров. Заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. К сильным сторонам относятся специализация на извлечении данных и удобный для локального запуска формат GGUF, совместимый с llama.cpp. Ограничения включают отсутствие в предоставленных данных сведений о размере контекста, точной архитектуре, количественных показателях качества и поддерживаемых модальностях помимо текста. Модель распространяется по лицензии lfm1.0; подробные условия следует уточнять в файле LICENSE.

LiquidAI/LFM2.5-1.2B-Thinking-MLX-4bit — это 4-битная MLX-версия модели LFM2.5-1.2B-Thinking, разработанная Liquid AI для инференса на устройствах Apple Silicon. Модель предназначена для генерации текста, решения задач и сценариев, требующих рассуждений: перед выдачей итогового ответа она формирует объяснение цепочки рассуждений. Поддерживаются вызовы инструментов и диалоговый формат ChatML. Модель содержит 1,2 млрд параметров, использует 4-битную точность с размером группы 64, занимает около 628 МБ и поддерживает контекст длиной до 32K токенов. В README заявлена поддержка английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. Версия ориентирована на локальный запуск через MLX и пакет mlx-lm на Apple Silicon; рекомендуемые параметры генерации оптимизированы для низкой температуры и коротких ответов. К сильным сторонам относятся компактный размер, низкая разрядность, возможность локального использования на совместимых устройствах, поддержка многошаговых рассуждений и function calling. Ограничения включают зависимость от экосистемы MLX и Apple Silicon, а также необходимость учитывать, что вывод рассуждений может быть объёмным и не всегда гарантирует корректность ответа. Модель распространяется по лицензии LFM 1.0.

WhiskyAKM/LFM2.5-2.6B-NVFP4-GGUF — квантованная GGUF-сборка текстовой модели Liquid AI LFM2.5-2.6B, подготовленная для локального запуска через llama.cpp на CPU и GPU. В основе лежит LiquidAI/LFM2.5-2.6B-Base; в карточке указаны архитектура LFM2, около 2,69 млрд параметров и гибридная структура из 30 слоёв, включая свёрточные слои и GQA. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и агентных сценариев с вызовом инструментов. Она поддерживает контекст до 131 072 токенов и ориентирована на эффективный запуск на устройстве. Файл NVFP4 использует 4-битное представление для уменьшения требований к памяти. Репозиторий указывает лицензию `other`; конкретные условия следует сверять с карточкой базовой модели и файлами лицензии. В README заявлены сильные стороны в использовании инструментов и длинном контексте, но независимые результаты оценки не приведены.

unsloth/LFM2.5-VL-3B-GGUF — это квантизированный вариант мультимодальной модели LFM2.5-VL-3B, разработанной Liquid AI и опубликованной сообществом Unsloth. Модель предназначена для обработки текста и изображений, прежде всего на устройствах с ограниченными ресурсами и для сценариев с низкой задержкой. GGUF-экспорты оптимизированы для запуска на CPU с уменьшенным потреблением памяти через llama.cpp. В основе модели находится языковая модель LFM2.5-2.6B, дополненная vision-энкодером SigLIP2 NaFlex объёмом 400M параметров. Размер словаря составляет 128 000 токенов, длина контекста — до 32 768 токенов. Поддерживаются английский, арабский, китайский, французский, немецкий, итальянский, японский, корейский, португальский, испанский, вьетнамский, тайский, индонезийский, хинди, русский и польский языки. Обработка изображений использует разбиение крупных изображений на неперекрывающиеся патчи 512×512 и уменьшенную копию всего изображения. Сильные стороны модели — распознавание объектов по текстовым запросам, улучшенный visual grounding, OCR целых страниц с разметкой структуры документа, а также высокая скорость и эффективность инференса. Она подходит для обнаружения объектов в автомобильных системах, пакетной обработки сканов и PDF, извлечения текста с сохранением layout, перевода меню и дорожных знаков, а также других однопроходных задач реального времени. Модель не рекомендуется для сложного рассуждения, длительных контекстов, визуального веб-дизайна и ответов на узкоспециализированные технические вопросы по чертежам. Лицензия указана как lfm1.0; подробные условия следует проверять в файле LICENSE репозитория.

bunnycore/Llama-3.1-8B-TitanFusion-Mix-2.1 — текстовая генеративная модель семейства Llama 3.1, созданная разработчиком bunnycore слиянием нескольких языковых моделей методом TIES через mergekit. В качестве базовой модели использована NousResearch/Meta-Llama-3.1-8B; в слияние также вошли Llama-3.1-8B-Lexi-Uncensored-V2, Configurable-Llama-3.1-8B-Instruct и две модели TitanFusion от bunnycore. Модель с архитектурой LlamaForCausalLM содержит 7,5 млрд параметров, принимает текст и генерирует текст. Заявленная длина контекста — 131 072 токена. Предназначена для диалогов и генерации текста общего назначения; README не приводит отдельные оценки качества или подробные сценарии применения. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.