I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейparaphrase-multilingual-mpnet-base-v2 — многоязычная модель Sentence Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для семантического поиска, сравнения сходства и кластеризации текстов. Архитектура основана на XLM-RoBERTa; модель содержит 305,2 млн параметров и поддерживает контекст до 514 токенов. Модель подходит для поиска семантически близких фрагментов и группировки текстов на разных языках. Она доступна в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Результат модели — векторное представление текста, поэтому для получения оценки сходства или поиска требуется сравнить векторы подходящим методом.
bartowski/Qwen2.5-7B-Instruct-1M-GGUF — набор GGUF-квантизаций модели Qwen2.5-7B-Instruct-1M, подготовленный bartowski на основе модели Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях и запуск через llama.cpp или LM Studio. В README указана поддержка английского языка. Модель содержит около 7 миллиардов параметров и рассчитана на контекст до 1 миллиона токенов, что подходит для обработки очень длинных документов и многошаговых диалогов. Доступны варианты от F32 и F16 до различных типов квантизации Q8, Q6, Q5, Q4, Q3 и Q2, включая форматы с imatrix-квантизацией. Размер файлов варьируется примерно от 3,5 до 30,5 ГБ; более компактные варианты снижают требования к памяти, но могут ухудшать качество ответов. Для работы следует использовать шаблон сообщений Qwen с ролями system, user и assistant. Наиболее качественными в README названы варианты Q6 и Q5, а Q4_K_M описан как типичный компромисс между размером и качеством. Модель распространяется по лицензии Apache-2.0; конкретные требования и ограничения исходной модели следует проверять в её лицензии.
bunnycore/Qwen-2.5-7b-TitanFusion-v3 — объединённая диалоговая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В основу слияния положена bunnycore/Qwen-2.5-7b-TitanFusion-v2; также использованы bunnycore/Qwen-2.5-7b-rp-lora и Orion-zhen/Qwen2.5-7B-Instruct-Uncensored. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и предназначена для генерации текста в формате диалога. Модель принимает текстовые запросы и генерирует текстовые ответы; её можно использовать для общения и выполнения инструкций. Родительская модель описана как дообученная на ответы без отказов, что указывает на соответствующую ориентацию слияния. Нативный контекст составляет 32 768 токенов. Репозиторий использует Transformers и формат Safetensors; веса объединены в bfloat16. Лицензия в предоставленных данных не указана.
ehristoforu/qwen2.5-7b-upscaled — языковая модель для генерации текста и диалогов, созданная слиянием весов через mergekit методом passthrough на основе Qwen/Qwen2.5-7B-Instruct. Она предназначена для общения, генерации текста и использования интерфейса вызова инструментов. Модель построена на плотной архитектуре Qwen2 и содержит 11,3 млрд параметров; максимальный контекст — 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. README не сообщает оценок качества или конкретных улучшений относительно базовой модели. Лицензия в доступных данных не указана.
Qwen3-4B-Thinking-2507-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, созданный пользователем MaziyarPanahi на основе исходной модели Qwen3-4B-Thinking-2507 от команды Qwen. Модель предназначена для локального запуска и интеграции с совместимыми приложениями и библиотеками, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другие инструменты экосистемы GGUF. Известно, что представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между размером файлов, требованиями к памяти и качеством генерации. Модель относится к классу текстовых генеративных моделей; сведения о количестве параметров, архитектуре исходной модели, поддерживаемых языках и размере контекста в README не указаны. Формат GGUF поддерживает запуск с использованием CPU и GPU, однако фактическая производительность зависит от выбранного варианта квантования и оборудования. README не содержит сведений о лицензии. Ограничения, связанные с качеством ответов и потерями точности при квантовании, могут зависеть от конкретного файла и конфигурации запуска.
Qwen3.6-11B-A3B-Niwaki-4bit-GGUF — это GGUF-сборка модели Qwen3.6, разработанной командой Qwen и адаптированной проектом Niwaki. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты, включая генерацию текста, диалог, рассуждения, краткие творческие задачи и программирование. В README указаны архитектура mixture-of-experts с 40 слоями, 256 маршрутизируемыми экспертами и выбором top-8 экспертов; общий размер модели составляет 11B параметров, активными являются примерно 3,05B. Размер промежуточного слоя экспертов уменьшен с 512 до 128, а контекстное окно соответствует базовой модели, но его точный размер не указан. Требуется актуальная версия llama.cpp с поддержкой Qwen3.6 и hybrid linear attention. Рекомендуемая сборка UD-Q3K занимает около 5,9 ГБ и использует структурно-ориентированное 4-битное квантование: постоянно активные компоненты хранятся с более высокой точностью, а маршрутизируемые эксперты — в компактном формате с калибровкой по матрицам важности. Также доступна сборка Q4_K_M размером около 7,0 ГБ. Модель показывает функциональные результаты в чат-сценариях, рассуждениях и кратком написании, однако её слабая сторона — продолжительная генерация кода: на длинных программных файлах возможны ранняя остановка и потеря связности. Для интенсивной работы с кодом README рекомендует более крупную 19B-модель. Лицензия — Apache 2.0; pruning, distillation и GGUF-сборки выполнены проектом Niwaki.
QAYSER12/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — это открытая мультимодальная модель на базе Qwen3.6 27B, представленная в формате GGUF. Она создана как результат многоэтапного дообучения и слияния моделей при участии DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; использовались датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель поддерживает английский и китайский языки, а также работу с изображениями. Размер контекстного окна в README не указан. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, анализа и творческой работы, включая написание художественных текстов и ролевые сценарии. Заявлены улучшенные instruction following, общее качество рассуждений и problem solving по сравнению с базовой моделью. Доступны обычные и MTP-варианты GGUF-квантов, включая 4- и 8-битные сборки; используется NEO IMATRIX, а выходной тензор частично сохранён в 16-битной точности. Для MTP-вариантов рекомендуется temperature не выше 1 и rep penalty 1; при низком token acceptance rate следует использовать обычные кванты. К сильным сторонам относятся широкий набор сценариев применения, поддержка vision, reasoning и работы на потребительском оборудовании, а также заявленные высокие результаты внутренних бенчмарков. Ограничения включают отсутствие в README подробностей об архитектуре поверх базовой Qwen3.6 27B, точном размере контекста, системных требованиях и независимой проверке заявленных результатов. Модель описывается как uncensored и heretic, поэтому её поведение и защитные ограничения могут отличаться от официальной базовой модели. Лицензия — Apache-2.0.
Qwen3.8-27B-NInfer — мультимодальная модель для генерации текста и работы с изображениями, основанная на Qwen3.8-27B от команды Qwen. Версия подготовлена разработчиком Neroued и преобразована в нативный формат артефактов NInfer с расширениями для Vision, MTP и спекулятивного декодирования DFlash2. Модель предназначена для диалогов, текстовой генерации, рассуждений, решения математических и научных задач, а также анализа изображений и визуальных вопросов. В карточке заявлены высокие результаты на IFBench, AIME 2025 и 2026, GPQA-Diamond, ERQA и RealWorldQA. Артефакт содержит квантизированные Q4/Q5-проекции, а эмбеддинги токенов и выходная голова используют q8_g32_fp16; размер файла составляет около 19,03 ГиБ. Поддерживаются текстовые и визуальные входы, а также видео согласно руководству NInfer. В примерах запуска указан контекст до 240 000 токенов, однако конкретные возможности зависят от конфигурации среды. Модель рассчитана на локальный запуск через NInfer и требует 64-разрядный Linux, NVIDIA GeForce RTX 5090 с архитектурой sm_120a, CUDA Toolkit 13.1 или новее и сборку NInfer не ниже указанной в карточке. Файл не является совместимым с Transformers, Safetensors или GGUF. Использование ограничено форматом NInfer и специализированным оборудованием, поэтому переносимость ниже, чем у универсальных моделей. Лицензия — Apache-2.0.
Карточка модели willhx/Qwen3-8B-Base-SeaSFT на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.
TheUnderscore/Swift-Qwen3.8-27b-W4A16-AWQ — квантизированная версия модели Swift-Qwen3.8-27b от UkisAI, подготовленная в формате AWQ с использованием compressed-tensors. Модель относится к семейству Qwen3.5/Qwen3.8 и предназначена для генерации текста и мультимодальных сценариев image-text-to-text, где требуется обработка изображений и текста. В репозитории указана библиотека Transformers, а запуск протестирован с LMDeploy Turbomind. Основная часть линейных весов представлена в формате W4A16: используются 4-битные асимметричные веса с размером группы 128 и 16-битные активации. Эмбеддинги, lm_head, нормализации, отдельные компоненты linear attention, vision tower и MTP head сохранены в BF16. Размер базовой модели — 27 млрд параметров. Архитектура использует гибридное внимание, а параметры модели и рекомендуемые настройки генерации унаследованы от базовой версии; поддерживаемые языки и максимальный размер контекста в README не указаны. Ключевое преимущество версии — существенное снижение требований к памяти за счёт W4A16-квантизации при сохранении полной точности отдельных мультимодальных и вспомогательных компонентов. Для запуска рекомендуется LMDeploy Turbomind с форматом compressed-tensors; пример конфигурации использует tensor parallelism с tp=2. Ограничения включают необходимость gated-доступа к весам Swift и потенциальные особенности совместимости с поддерживаемым программным стеком; отдельные количественные оценки качества после квантизации не приведены. Модель распространяется по лицензии Swift Open License v1.0. Персональное, исследовательское, образовательное, оценочное и коммерческое использование бесплатно для физических и юридических лиц с годовой регулярной выручкой, включая аффилированные организации, до 1 000 000 долларов США. При превышении этого порога для коммерческого использования требуется отдельная Swift Enterprise License.
Unlimited-OCR — мультимодальная модель оптического распознавания символов, разработанная авторами проекта при поддержке команды Baidu Cloud. Она предназначена для распознавания и разбора текста на изображениях, в том числе для длинных документов и сценариев, где требуется обработать содержимое за один проход. Модель имеет плотную архитектуру UnlimitedOCRForCausalLM и содержит 559,7 млн параметров; заявленное контекстное окно — 32 768 токенов. Поддерживает работу через Transformers, vLLM и SGLang. Модель принимает изображения и формирует текстовый результат, а также может использоваться для генерации текста. Карточка характеризует её как мультиязычную, но конкретные языки не перечислены. Репозиторий распространяется в формате safetensors по лицензии MIT. Практические требования включают совместимое GPU-окружение; README приводит конфигурации на базе CUDA.
Карточка модели fknuette/werwolf-sft на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.
Wizard-Tulu-Dolphin-70B-v1.0 — объединённая языковая модель на архитектуре Llama, созданная sophosympatheia методом SLERP из Wizard-Tulu-70B-v1.0 и Dolphin 2.2 70B. В репозитории представлены веса SafeTensors; размер модели — 68,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации текста и следования инструкциям. Автор включал этот бленд в Midnight Rose v2.0.3 и описывает его как попытку объединить сильные стороны WizardLM, Tulu и Dolphin 2.2, однако отмечает, что отдельно модель тестировалась мало. Лицензия в предоставленных данных не указана.
YamT3qm7xp_YamOgno — объединённая методом слияния модель семейства Mistral от MaziyarPanahi, созданная на основе automerger/YamT3qm7xp-7B и automerger/YamOgno-7B. Она предназначена для генерации текста и поддерживает контекст длиной до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors по лицензии Apache 2.0.
jangedoo разработал эту модель Sentence Transformers на основе jangedoo/all-MiniLM-L6-v2-nepali, дообучив её на парах и триплетах английских и непальских текстов. Это компактный BERT-энкодер с 25,9 млн параметров: он кодирует предложения и абзацы в нормализованные векторы размерности 384 для сравнения по косинусному сходству. В README указана максимальная длина последовательности 256 токенов, а метаданные каталога задают контекст до 512 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок и кластеризации англоязычных и непальских текстов; векторы также можно использовать в классификационных системах. В README приведены результаты оценки на наборах для поиска и семантического сходства на английском и непальском языках. Лицензия в предоставленных данных не указана.
BERTA — модель для получения эмбеддингов предложений на русском и английском языках. Согласно карточке, её разработал sergeyzh методом дистилляции эмбеддингов ai-forever/FRIDA в sergeyzh/LaBSE-ru-turbo. Это плотная модель семейства BERT с 155,5 млн параметров; размер эмбеддинга — 768, контекст — до 512 токенов. Модель предназначена для сравнения семантической близости текстов, поиска и других задач на эмбеддингах. Карточка также приводит результаты для распознавания перефразирования, вывода по тексту, анализа тональности и выявления токсичности. Для большинства задач задан префикс «categorize_entailment: »; также доступны унаследованные от FRIDA префиксы для запросов и документов. Используется mean pooling вместо CLS pooling. В бенчмарке ruMTEB BERTA показывает результаты, близкие к FRIDA, но в приведённых таблицах уступает ей по указанным метрикам классификации и кластеризации. Модель принимает текст и выдаёт векторы эмбеддингов. Лицензия — MIT.
Carnice-V3-GGUF — квантованные GGUF-варианты модели Carnice V3 от kai-os, производной от Qwen/Qwen3.8-27B. Модель предназначена для запуска через llama.cpp, включая текстовые, мультимодальные и агентские сценарии с использованием инструментов. В основе лежит объединённая BF16-модель размером 27 781 427 952 параметра; постобучение выполнялось с помощью rank-64 rsLoRA для языковых линейных модулей. Визионные и MTP-модули не дообучались. Заявлена поддержка английского языка, обработки изображений и контекста до 32 768 токенов при указанных настройках запуска. В репозитории доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 15,66 до 27,05 GiB, а мультимодальный проектор поставляется отдельно в формате BF16. Q5_K_M рекомендуется как баланс качества и потребления памяти, Q6_K — когда важнее надёжность агентской работы, а Q8_0 — при приоритете минимальных потерь квантования. Проверки показывают небольшое ухудшение perplexity относительно BF16 и успешный тест вызова инструмента, однако эти результаты не являются широким бенчмарком. Модель может быть полезна для локального инференса, обработки изображений, tool use и Hermes Agent. При этом Carnice V3 не прошла формальную проверку поведенческого качества; внутренние тесты выявили более слабое выполнение длинных задач и соблюдение контрактов инструментов по сравнению с базовой моделью. Модель не рекомендуется для автономных, разрушительных, высокорисковых или производственных агентов без независимой оценки, строгой песочницы и ограничений времени, контекста и числа итераций. Распространение осуществляется по лицензии Apache-2.0.
danskgpt-v4-12b — дообученная Syvai текстовая модель на архитектуре Gemma4ForCausalLM, созданная на основе google/gemma-4-12B-it для более сильного понимания датского языка, работы со знаниями и рассуждений. Это плотная модель примерно на 11,6 млрд параметров; карточка указывает дообучение QLoRA с рангом 16, базой NF4 и вычислениями bf16. Контекст составляет 262 144 токена, для диалога используется шаблон чата Gemma-4. Модель предназначена для датской NLP: классификации, понимания прочитанного, ответов на вопросы, извлечения именованных сущностей и задач универсального ассистента. Она принимает текст и генерирует текст; примеры включают перефразирование, суммаризацию и оценку тональности. Модель ориентирована на датский язык и не предназначена для мультимодального ввода, несмотря на мультимодальные возможности базовой модели. По карточке модель может быть более краткой и решительной в открытой генерации, чем базовая модель, наследует её смещения и ограничения знаний. Для высокорисковых решений требуется человеческий контроль. Лицензия — CC BY 4.0.
DeepSeek-V4-Flash-162B-GGUF — это квантизированная версия модели DeepSeek-V4-Flash-162B в формате GGUF, опубликованная пользователем 0xSero. Модель предназначена для текстовой генерации и локального запуска в совместимых средах, включая сценарии развёртывания на NVIDIA DGX Spark. Репозиторий содержит профиль Q2-REAP-ds4, созданный на основе checkpoint с применением метода REAP для сжатия MoE-модели. Модель содержит 162 млрд параметров, занимает около 149 ГБ на диске и использует специализированную схему квантизации: IQ2_XXS для маршрутизируемых gate/up-экспертов, Q2_K для маршрутизируемых down-экспертов и Q8_0 для общих, выходных и attention-проекций. Заявлена поддержка контекста до 200 000 токенов; валидация проводилась на DGX Spark. Данные о количестве слоёв, размере скрытого представления, активных параметрах, языках и мультимодальности в README не указаны. Сильными сторонами являются существенно уменьшенный размер относительно полноточной версии, поддержка длинного контекста и наличие опубликованных измерений производительности. Ограничение заключается в том, что эти GGUF-файлы используют специфическую структуру тензоров и метаданные DeepSeek-V4 Flash и не предназначены для generic llama.cpp без поддержки соответствующего формата. В README указана лицензия MIT, унаследованная от базовой модели.
Seznam.cz разработала Dist-MPNet-Paracrawl — компактную модель эмбеддингов на базе BERT, дистиллированную из sentence-transformers/all-mpnet-base-v2 на параллельном чешско-английском корпусе CzEng. Модель предназначена для оценки семантического сходства предложений и может применяться для поиска похожих текстов, извлечения релевантных документов, кластеризации и классификации. Модель содержит 27,2 млн параметров, принимает текстовые последовательности длиной до 512 токенов и выдаёт представления для сравнения предложений. Она рассчитана на чешский и английский языки. Репозиторий содержит веса PyTorch; лицензия — CC BY-NC-SA 4.0, предусматривающая указание авторства, распространение производных работ на тех же условиях и ограничения на коммерческое использование.
upskyy/e5-large-korean — модель Sentence Transformers, дообученная автором на korsts и kornli на базе intfloat/multilingual-e5-large. Она преобразует предложения и абзацы в плотные векторы размерности 1024; архитектура включает XLM-RoBERTa и усреднение токенных представлений. Модель предназначена для сравнения смысла текстов, семантического поиска и других задач, где нужны текстовые эмбеддинги. Для вычисления сходства в README указана косинусная мера; максимальная длина последовательности — 512 токенов по README и 514 по метаданным. В README приведён результат оценки на sts-dev: корреляция Спирмена для косинусного сходства — 0,8699. Модель поддерживает корейский и другие языки; среди языков в метаданных перечислены, в частности, корейский и английский. Репозиторий использует формат safetensors, библиотека — sentence-transformers. Лицензия — MIT.
Espresso-AI/Espresso-AI — языковая модель, разработанная Espresso-AI и дообученная на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Модель сохраняется в формате safetensors и распространяется по лицензии Apache-2.0. В карточке указано, что обучение выполнялось с использованием Unsloth и библиотеки TRL. Данных о конкретной специализации или дополнительных ограничениях в доступных источниках нет.
F2LLM-v2-0.6B — многоязычная модель эмбеддингов из семейства F2LLM-v2, разработанного CodeFuse. Она основана на плотной архитектуре Qwen3 и содержит около 507,9 млн параметров; версия дообучена на базе codefuse-ai/F2LLM-v2-0.6B-Preview. Модель принимает текст и выдаёт векторные представления для семантического поиска, ранжирования и задач сравнения текстов. Модель поддерживает более 200 языков, уделяя особое внимание языкам с ограниченными ресурсами. Контекст составляет 40 960 токенов. Обучение с Matryoshka Representation Learning позволяет сокращать размерность эмбеддингов, а инструкции можно задавать в формате «Instruct: … Query:». В семействе заявлены высокие результаты на ряде бенчмарков MTEB; конкретные показатели этой версии в карточке не приведены. Доступны веса Safetensors и ONNX, библиотека Transformers, лицензия Apache-2.0. Для поиска и переранжирования инструкцию добавляют к запросу, но не к документам; при усечении эмбеддинга его следует нормализовать после усечения.
ice-AI-i1-GGUF — это набор квантованных вариантов модели ice-AI, разработанной darkps и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Представлены файлы с различными уровнями квантования, поэтому модель можно запускать на системах с разным объёмом доступной памяти и выбирать компромисс между размером, скоростью и качеством. В репозитории доступны варианты от i1-IQ1_S размером около 2,2 ГБ до i1-Q6_K размером около 6,8 ГБ. Для некоторых вариантов указаны преимущества и ограничения: Q4_K_M обозначен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по соотношению размера, скорости и качества, а отдельные низкобитные варианты характеризуются более низким качеством. Точная архитектура, число параметров, размер контекста, перечень языков и мультимодальные возможности в README не указаны; по описанию модель является текстовой и не поддерживает заявленные мультимодальные сценарии. Лицензия — Apache-2.0.
InternLM2.5-7B-Chat-GGUF — квантизированная версия чат-модели InternLM2.5-7B-Chat, разработанной командой InternLM и преобразованной в формат GGUF компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая чат-взаимодействие и использование инструментов. Она рассчитана на запуск через LlamaEdge и совместимые среды, использует шаблон запросов ChatML, а для вызовов инструментов предусмотрен отдельный шаблон internlm-2-tool. Модель содержит 7 миллиардов параметров, поддерживает контекст до 32 000 токенов и относится к текстовым, а не мультимодальным моделям. Доступны варианты квантизации от 2 до 8 бит, а также f16; размеры файлов составляют примерно от 3,01 до 15,5 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S предлагают более низкую потерю качества при большем размере. Более сильная квантизация уменьшает требования к памяти, но может заметно снижать качество. README не содержит сведений о поддерживаемых языках, внутренней архитектуре, результатах тестирования, сильных сторонах и ограничениях исходной модели. Лицензия указана как other, без дополнительных условий или подробностей; перед использованием необходимо ознакомиться с лицензией исходной модели и репозитория.
InternLM-Chat-7B — диалоговая модель семейства InternLM от команды InternLM, предназначенная для практических сценариев общения и генерации текста. Это плотная авторегрессионная модель класса InternLMForCausalLM с 6,9 млрд параметров; в репозитории представлены веса PyTorch. Карточка сообщает о тренировке на триллионах высококачественных токенов и оценивает модель по языковым, предметным, знаниевым, логическим и понимательным задачам. Модель подходит для диалоговых ассистентов, ответов на вопросы, объяснений и генерации текста; также заявлены возможности вызова инструментов для построения пользовательских рабочих процессов. Метаданные указывают контекст 2048 токенов, тогда как README заявляет окно 8k, поэтому фактическую длину контекста следует сверить с используемой конфигурацией. Карточка приводит результаты OpenCompass, включая C-Eval, MMLU и AGIEval. Модель может генерировать предвзятые, дискриминационные или иные вредоносные ответы. Код распространяется по Apache-2.0; для весов указано открытое использование в академических исследованиях, а коммерческое применение требует получения бесплатного разрешения.
bongsoo/klue-sbert-v1 — модель на базе KLUE BERT, разработанная bongsoo и дообученная в формате Sentence-BERT для получения векторных представлений предложений и абзацев. Она предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель имеет архитектуру BERT, содержит 137,8 млн параметров и преобразует текст в плотный вектор размерности 768; максимальная длина контекста — 512 токенов. Обучение включало задачи семантического сходства, дистилляцию с paraphrase-multilingual-mpnet-base-v2 и NLI на корейских и английских данных. В README приведены результаты оценки на корейских и английских наборах STS. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
LeoScorpius-7B-Chat-DPO-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и viethq188/LeoScorpius-7B-Chat-DPO методом SLERP с помощью Mergekit. Модель семейства Mistral имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций. Её можно использовать для ответов на вопросы, ведения беседы и создания текстовых черновиков. Поддерживается контекст до 32 768 токенов; файлы представлены в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или специальных ограничений применения, поэтому качество ответов для конкретных сценариев следует проверять отдельно.
LFM2-1.2B — компактная языковая модель, разработанная Liquid AI для работы на периферийных устройствах и локального развертывания. Это плотная авторегрессионная модель семейства LFM2 с 1,1 млрд параметров. Архитектура сочетает 10 блоков коротких свёрток с двойными затворами и 6 блоков группового внимания GQA. Модель принимает текст и генерирует текст; предусмотрены шаблон диалога в стиле ChatML и интерфейс для вызова инструментов. Контекст по метаданным каталога — до 128 000 токенов. Модель рассчитана на многошаговые диалоги, агентные сценарии, извлечение данных, RAG и творческое письмо. Liquid AI заявляет о высокой скорости и экономном использовании памяти на CPU, GPU и NPU, что подходит для смартфонов, ноутбуков и автомобильных систем. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. README рекомендует дообучать модель под узкие задачи и не рекомендует полагаться на неё в задачах, требующих глубоких знаний или навыков программирования. Лицензия обозначена в метаданных как other; конкретные условия следует проверять в репозитории модели.
unsloth/LFM2.5-1.2B-Instruct — версия инструкционной модели Liquid AI, опубликованная Unsloth с исправлениями шаблона чата. Это компактная плотная языковая модель семейства LFM2: в README указано 1,17 млрд параметров и гибридная архитектура из 10 блоков LIV с двойной маршрутизацией и 6 блоков GQA. Модель принимает и генерирует текст; она рассчитана на локальный запуск на устройствах и поддерживает контекст до 32 768 токенов по README, тогда как метаданные указывают 128 000 токенов. Модель предназначена для диалогов общего назначения, агентных сценариев с вызовом инструментов, извлечения данных и ответов с опорой на документы в RAG. В карточке перечислены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. README не рекомендует использовать её для задач, требующих обширных знаний, и программирования. Репозиторий содержит веса в формате safetensors и использует лицензию, обозначенную в метаданных как other; конкретные условия лицензии следует сверить с карточкой модели.