I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейfoxxy-hm/wav2vec2-base-finetune-vi-v6 — модель автоматического распознавания речи на архитектуре wav2vec2 с классификационной головой CTC. В README указана тонкая настройка этой же модели; сведения о датасете и подробностях обучения отсутствуют. Модель содержит 402,8 млн параметров и опубликована в формате PyTorch. Модель предназначена для преобразования аудиоречи в текст. В README приведены результаты оценки: loss 0,2240 и WER 0,1296. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое использование.
Модель Sámi Wav2Vec2-Large разработана Ярославом Гетманом и Тамашем Гросом для автоматического распознавания саамской речи. Это акустическая модель на базе Wav2Vec2 с архитектурой Wav2Vec2ForCTC; она дообучена на 20 часах аудио заседаний Саамского парламента, записанного с частотой 16 кГц. Размер модели по метаданным — 402,7 млн параметров. Модель преобразует речь на саамском языке в текст и предназначена для транскрибации записей, включая речь вне обучающего домена и аудио разного качества. В README отмечено, что в экспериментах prefix beam search немного снижал символьную ошибку по сравнению с жадным декодированием; внешняя языковая модель для этого не обязательна. Для входного аудио требуется частота дискретизации 16 кГц. Оценка проводилась на одном часе чтения вслух и спонтанной речи вне обучающего домена, поэтому качество на других условиях записи и типах речи может отличаться. Лицензия — Apache-2.0.
Galuh/wav2vec2-large-xlsr-indonesian — модель автоматического распознавания речи, созданная дообучением facebook/wav2vec2-large-xlsr-53 на индонезийском наборе Common Voice. Она преобразует аудиозапись речи в текст и рассчитана на распознавание индонезийской речи. Модель построена на архитектуре Wav2Vec2ForCTC и содержит 402,7 млн параметров; входное аудио должно иметь частоту дискретизации 16 кГц. В README приведён результат оценки 18,32% на тестовых данных Common Voice; метрика не уточнена. Указана лицензия Apache-2.0. Карточка не описывает дополнительные ограничения и сценарии использования.
Это дообученная модель OpenAI Whisper Large V3 Turbo от ele-sage для автоматического распознавания речи на канадском французском, включая квебекский диалект. Она преобразует аудио в текст и рассчитана на транскрибацию медиа, подкастов, интервью, формальных выступлений и повседневной речи с региональными акцентами. Модель построена на архитектуре Whisper с последовательным преобразованием аудио в текст и содержит около 905,2 млн параметров. Для дообучения использовали примерно 69 часов записей: выступления в Национальной ассамблее Квебека и данные Common Voice на канадском и других вариантах французского. В README указана частота дискретизации 16 кГц; фрагменты длиннее 30 секунд исключались или сегментировались. На валидационном наборе автор сообщает WER 6,65%. Модель предназначена прежде всего для французской речи из Квебека; обучение на формальных выступлениях и краудсорсинговых записях призвано охватить разные регистры. Это не гарантия точности на других акцентах, шумных записях или темах, не представленных в обучающих данных. Лицензия — MIT.
onnx-community/whisper-large-v3-turbo_timestamped — это версия модели OpenAI Whisper large-v3-turbo, подготовленная сообществом onnx-community. Репозиторий содержит ONNX-веса, совместимые с Transformers.js, и предназначен для запуска модели в средах, поддерживающих этот фреймворк, включая веб-приложения. Модель ориентирована на задачи автоматического распознавания речи и основана на Whisper large-v3-turbo. README не содержит подробностей о размере модели, архитектуре, поддерживаемых языках, модальностях, длине контекста, точности, производительности или наличии функции временных меток, отражённой в идентификаторе модели. Также не указаны сильные стороны и ограничения по сравнению с исходной моделью. Условия лицензирования в README не указаны. Репозиторий описывает ONNX-веса как временное решение до более широкого распространения WebML и рекомендует использовать Optimum для конвертации моделей в ONNX и подготовки их к работе в веб-средах.
Это дообученная на базе openai/whisper-medium модель распознавания речи, опубликованная пользователем dianavdavidson. Она предназначена для преобразования аудиоречи в текст; название указывает на настройку для хинди и датасет Vaani, однако README не уточняет обучающие данные и сценарии применения. В метаданных указаны архитектура Whisper, библиотека Transformers и формат весов safetensors. В README приведены результаты оценки: Loss 0,4088 и Global WER 29,3511. Эти значения описывают оценку на указанном наборе, но без сведений о методике и данных их нельзя напрямую переносить на другие аудиозаписи. Модель распространяется по лицензии Apache-2.0.
Jackyhsien/whisper-small-finetune-taiwanese — дообученная модель распознавания речи на основе OpenAI Whisper Small. Она предназначена для транскрибирования речи на тайваньском языке; для обучения использован датасет Common Voice 17.0. Модель содержит 153,1 млн параметров, использует архитектуру Whisper и принимает аудио, выдавая текст. Базовая модель OpenAI Whisper Small также поддерживает несколько языков и перевод аудио на английский, но карточка этой производной модели не подтверждает сохранение этих возможностей после дообучения. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.
steja/whisper-small-marathi — модель распознавания речи на основе Whisper Small, дообученная автором steja на наборе mozilla-foundation/common_voice_11_0 для маратхи. Она преобразует аудио в текст и предназначена для автоматической транскрипции речи на маратхи. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и распространяется в формате PyTorch по лицензии Apache-2.0. В карточке приведён результат оценки на тестовом наборе: WER 18,5782 и loss 0,6231. Эти показатели относятся к указанному набору данных; карточка не описывает качество на других аудиозаписях и сценариях.
Whisper-Small-Shona — модель автоматического распознавания речи на chiShona, разработанная в рамках Project Nyaradzai. Это дообученная версия openai/whisper-small с архитектурой Whisper и 153,1 млн параметров. Модель принимает аудио и выдаёт текстовую транскрипцию на chiShona; она предназначена для голосовых заметок, разговорной речи, субтитров и инструментов доступности. Модель обучена на наборе Google WAXAL, включая около 14 109 примеров из обучающей выборки. На тестовой части WAXAL указана метрика WER 36,42%, поэтому результат транскрибации может требовать существенной ручной правки. Лицензия модели — Apache-2.0.
marinone94/xls-r-300m-sv-robust — дообученная модель распознавания речи на базе KBLab/wav2vec2-large-voxrex. Она использует архитектуру wav2vec2 с выходной CTC-головой и предназначена для преобразования шведской речи в текст, в том числе на материале датасета Common Voice 9.0 для шведского языка. В README указаны результаты на тестовой выборке без языковой модели: WER 0,1121 и loss 0,1318. Модель принимает аудио и выдаёт текст. Репозиторий содержит веса PyTorch, а лицензия указана как CC0 1.0. Оценка приведена только для тестовой выборки Common Voice; сведений о качестве на других типах аудио в карточке нет.
AFM-4.5B-Base-Pre-Anneal — базовая плотная авторегрессионная модель семейства Arcee, разработанная Arcee.ai. Она построена на архитектуре Transformer decoder-only и содержит 4,5 млрд параметров по README (в метаданных указано 6 млрд). Для эффективного вывода использует grouped-query attention, а вместо SwiGLU — активацию ReLU², рассчитанную на поддержку разреживания. Модель обучена на 6,5 трлн токенов общих предобучающих данных; доступная версия предшествует этапу дообучения на математике и коде, слиянию моделей и расширению контекста. Модель предназначена для генерации текста и служит базой для последующей адаптации под разные сценарии. Она принимает текст и генерирует текст; нативный контекст составляет 4096 токенов. Метаданные указывают поддержку английского, испанского, французского, немецкого, итальянского, португальского, русского, арабского, хинди, корейского и китайского языков. Для работы можно использовать библиотеку Transformers. Лицензия — Apache-2.0. Поскольку это базовая модель до этапов настройки на математике и коде, README не заявляет о специализированных возможностях этих областей.
AI21-Jamba-Mini-1.7-GGUF — это квантованная версия языковой модели AI21-Jamba-Mini-1.7, разработанной AI21 Labs и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты от BF16 до низкобитных квантований Q8, Q6, Q5, Q4 и Q3, включая форматы IQ. Размер файлов составляет примерно от 21 до 103 ГБ; более крупные варианты обычно обеспечивают лучшее качество, а компактные требуют меньше оперативной памяти. Для работы необходимо использовать указанный шаблон промпта со специальными токенами системного, пользовательского и ассистентского сообщений. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях и размере контекста, поэтому эти характеристики нельзя достоверно определить по представленным данным. Сильной стороной модели является широкий выбор квантований для различных аппаратных ограничений и совместимость с популярными инструментами локального инференса. При этом качество и требования к памяти зависят от выбранного варианта, а низкобитные версии могут заметно уступать более точным. Модель распространяется по лицензии Jamba Open Model License; для точных условий следует обращаться к тексту лицензии AI21 Labs.
Banglish Embed MiniLM Small — модель эмбеддингов для поиска семантически соответствующих предложений на бенгальском письме и романизированном бенгальском (Banglish). Она дообучена автором sifat-febo на sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 и предназначена для двустороннего поиска совпадений между двумя письменностями, включая сценарии с переключением между ними. Модель построена на архитектуре BERT и содержит 124,3 млн параметров. Она принимает текст и формирует эмбеддинги для семантического сравнения; заявленная длина контекста — 112 токенов. По README, модель занимает около 0,47 ГБ и рассчитана на работу на CPU без подключения к интернету после установки. В описанном тесте на 2000 парах она находила соответствие примерно в 98,6–98,8% случаев. Модель подходит для поиска бенгальских фраз по Banglish-запросам и наоборот, но её назначение ограничено сопоставлением семантически сходных предложений: она не предназначена для суммаризации, ответов на вопросы или произвольного ранжирования. Текст длиннее примерно 70 слов обрезается. Лицензия — Apache-2.0.
Bharat-Tiny-LLM-fused — текстовая авторегрессионная модель с архитектурой Qwen2, созданная eulogik путём объединения LoRA-адаптера с весами Qwen/Qwen2.5-1.5B. Модель содержит 1,5 млрд параметров, распространяется в формате PyTorch float16 и рассчитана на генерацию диалогового текста на хинди, хинглиш и английском языках. Для неё заявлено контекстное окно до 131 072 токенов. Модель предназначена для запуска через Transformers на CPU или CUDA, дальнейшего дообучения и создания собственных квантованных сборок. В карточке отмечено, что для генерации нужны низкая температура около 0,3, repetition penalty не ниже 1,25 и запрет повторения n-грамм размером 3: при высокой температуре базовая модель может выдавать искажённые токены вне целевого письма. Лицензия — Apache-2.0.
Breeze-7B-Instruct-v1_0-GGUF — квантизированная GGUF-версия языковой модели Breeze-7B-Instruct-v1_0, разработанной MediaTek-Research и подготовленной к квантизации компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через LlamaEdge. Указана поддержка китайского и английского языков, а контекстное окно составляет 8000 токенов. Модель имеет 7 миллиардов параметров и поставляется в вариантах с квантизацией от 2 до 8 бит, а также в формате f16. Доступны сборки размером примерно от 2,86 до 15 ГБ; варианты Q4_K_M, Q5_K_M и Q5_K_S обозначены как рекомендуемые благодаря балансу между размером и качеством. Более агрессивная квантизация уменьшает требования к памяти, но может приводить к заметной потере качества, тогда как f16 требует существенно больше ресурсов. Для работы используется шаблон запросов mediatek-breeze и LlamaEdge версии 0.14.2 или новее. README не содержит сведений о мультимодальности, конкретной архитектуре, результатах тестирования или ограничениях качества, поэтому модель следует рассматривать прежде всего как компактную текстовую instruct-модель для локального инференса. Лицензия — Apache 2.0.
Chocolatine-14B-Instruct-4k-DPO — языковая модель Джонатана Пацифико, созданная DPO-дообучением microsoft/Phi-3-medium-4k-instruct на датасете jpacifico/french-orca-dpo-pairs-revised. Это плотная модель семейства Phi-3 с 13,8 млрд параметров, рассчитанная на диалоговую генерацию текста на французском и английском языках; контекстное окно составляет 4096 токенов. Модель предназначена для диалога и генерации ответов. Автор сообщает об улучшении результатов на французском и английском относительно базовой модели, а также приводит результаты MMLU-PRO и MT-Bench-French; эти показатели получены в бенчмарках и сами по себе не гарантируют качество в конкретных приложениях. Модель не имеет механизма модерации, поэтому ответы могут включать нежелательный контент. Распространяется по лицензии MIT.
educa-ai-nemo-sft — языковая модель Digital Learning GmbH, полученная дообучением Mistral-Nemo-Instruct-2407 методом SFT на внутренних и общедоступных инструкционных данных. Это плотная decoder-only Transformer семейства Mistral с 12,1 млрд параметров; модель предназначена для диалога и генерации текста, в том числе для анализа учебных материалов и помощи учащимся при выполнении текстовых заданий. В карточке заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель поддерживает контекст до 1 024 000 токенов по метаданным; обучающие примеры имели длину до 16 384 токенов. В опубликованных сравнениях показатели различаются по языкам и тестам: например, модель показала более высокий результат базовой модели на некоторых заданиях по немецкому и испанскому, но уступила ей в ряде англоязычных и французских тестов. Разработчик называет выпуск предварительным и не рекомендует использовать его в производственной среде, пока продолжаются бенчмаркинг и улучшение данных. Дообучение не включало выравнивание предпочтений, поэтому модель может генерировать вредоносный контент. Лицензия — Apache License 2.0.
GaMS-9B-Instruct-Nemotron — инструктивная языковая модель на 9 млрд параметров, разработанная Тимотеем Петриčem в рамках магистерской работы. Это вариант GaMS-9B-Instruct, дополнительно обученный методом SFT на отобранной части набора nvidia/Nemotron-Post-Training-Dataset-v1 и датасете cjvt/GaMS-Nemotron-Chat: примерно 80 тысяч словенских пар «инструкция — ответ» и 20 тысяч английских примеров. Модель построена на архитектуре Gemma 2 и предназначена для генерации текста и диалогов по инструкциям, в особенности на словенском и английском языках. Размер контекста составляет 8192 токена; модель распространяется в формате safetensors и рассчитана на запуск через Transformers. Лицензия — Gemma. Карточка не описывает результаты оценки качества или специфические ограничения; ожидаемый охват задач определяется инструктивной генерацией и диалогами на языках обучения.
MLX-квантизированная версия модели GLM-5.3-BF16 из репозитория zai-org, подготовленная сообществом mlx-community с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста и рассчитана прежде всего на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти. Заявлена поддержка английского и китайского языков; исходная архитектура, точный размер, максимальная длина контекста и другие параметры в README не указаны. Модель использует смешанную 4,5-битную квантизацию. При подборе рецепта квантизации учитывались снижение избыточного «обдумывания» и повторной работы, сохранение знаний в экспертных компонентах, защита чувствительных слоёв, корректное следование инструкциям, скорость обработки и сохранение пространства для контекста при максимальном reasoning. К преимуществам относятся экономичное размещение на целевой конфигурации и возможность локального запуска через mlx-lm; при этом характеристики качества, производительности и совместимости за пределами указанного оборудования не приведены. Лицензия обозначена как other с названием glm-5.3, поэтому условия использования следует уточнять по лицензии исходной модели и репозитория.
KBlueLeaf разработал Guanaco-7B-leh — мультиязычную инструкционную языковую модель на архитектуре LLaMA с примерно 6,6 млрд параметров. Она дообучена на очищенной версии набора Alpaca и данных Guanaco: использовался LoRA для внимания, а также обучались слои эмбеддингов и выходная голова. Модель предназначена для генерации текста по инструкциям и диалогового использования в формате Guanaco. Автор отмечает улучшение работы на китайском и японском языках по сравнению с исходной LLaMA и возможность использовать модель как чат-бот. В карточке заявлена лицензия GPL-3.0. Автор предупреждает, что для более точных ответов может потребоваться подключение внешних инструментов; приведён пример использования LoRA-варианта, для которого нужно отключить загрузку в 8-битном режиме либо предварительно объединить адаптер с базовой моделью.
Это квантизированная версия языковой модели Ling-lite-0415, разработанной inclusionAI и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В репозитории представлены варианты весов от полного BF16 размером 33,62 ГБ до компактных квантов Q3 и IQ3 размером около 7,65–9,30 ГБ. Доступны различные уровни качества и степени сжатия; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описан как подходящий размер по умолчанию для большинства сценариев. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Модель подходит для локальной генерации текста при наличии совместимого оборудования и программного обеспечения. Квантование уменьшает требования к памяти, но может снижать качество по сравнению с полноразмерными BF16-весами; наиболее компактные варианты имеют более заметные ограничения качества. Для работы следует использовать указанный формат prompt с ролями SYSTEM, HUMAN и ASSISTANT. Лицензия — MIT.
Это дообученная модель Whisper, созданная на основе parthiv11/indic_whisper_hi_multi_gpu. Она предназначена для автоматического распознавания речи и транскрибирования аудио; карточка указывает дообучение на датасете с названием None. В оценке модели приведены loss 0,5062 и Global WER 26,0112. Модель использует архитектуру WhisperForConditionalGeneration и формат весов safetensors; библиотека для работы — Transformers. Лицензия — MIT. Подтверждена поддержка хинди; сведений о других языках и параметрах контекста карточка не содержит.
K2-Horizon-32B-heretic-GGUF — это производная модель для генерации текста, разработанная soyaakinohara на базе IFM/K2-Horizon-32B и soyaakinohara/K2-Horizon-32B-heretic. Модель обработана методом Heretic для ослабления отказов, после чего выполнены слияние LoRA, конвертация в формат GGUF и квантование. Она предназначена для локального запуска и генерации текста на совместимом программном обеспечении, включая llama.cpp. Модель использует пользовательскую архитектуру K2Horizon и содержит 34,8 млрд плотных параметров. Максимальный контекст составляет 524 288 токенов, однако на видеокартах с ограниченной памятью его необходимо уменьшать. Поддерживаются английский и другие многоязычные сценарии. Доступны варианты BF16, Q8_0, Q6_K, Q4_K_M и Q2_K; Q4_K_M отмечен как рекомендуемый и рассчитан на запуск примерно на двух видеокартах по 16 ГБ, тогда как Q2_K требует меньше памяти, но обеспечивает более низкую точность. К сильным сторонам относятся большой контекст, несколько уровней квантования и сниженная склонность к отказам: в указанном испытании Heretic модель отказала в 3 случаях из 100, при KL-дивергенции 0,056. Ограничения включают нестандартную архитектуру, для которой требуется специальная ветка llama.cpp MBZUAI-IFM; стандартная upstream-версия llama.cpp не поддерживается. Для длинного контекста также может потребоваться дополнительная память под KV-кэш и его квантование. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.
karasu-7B-chat-plus-unleashed — разговорная языковая модель, разработанная Lightblue и дообученная на базе lightblue/karasu-7B. Она предназначена для генерации ответов в диалоге и других сценариев текстового общения. В обучении использовались японские чаты OASST и ShareGPT, набор augmxnt/ultra-orca-boros-en-ja-v1, а также собственные датасеты Lightblue; из категории отказов было удалено около 6 тысяч примеров. Модель построена на плотной архитектуре Mistral и содержит 7,5 млрд параметров. Поддерживает контекст до 32 768 токенов, работает с текстом и рассчитана прежде всего на японский и английский языки. Опубликована в формате safetensors под лицензией Apache-2.0. Название «unleashed» и удаление примеров отказов могут означать менее частые отказы в ответах, однако README не уточняет поведение модели или связанные с этим ограничения.
Kraken-Multilingual — языковая модель на архитектуре Kraken, созданная совместно Cognitive Computations, VAGO Solutions и Hyperspace.ai; среди авторов указаны Fernando Fernandes Neto, David Golchinfar, Lucas Atkins и Eric Hartford. Это плотная причинная языковая модель на базе Transformers, которая использует маршрутизатор для выбора подходящей экспертной модели в зависимости от языка и содержания запроса. Среди перечисленных экспертов — модели для немецкого и английского, итальянского, французского и скандинавских языков. Модель предназначена для генерации текста и диалоговых ответов на английском, немецком, итальянском, французском, шведском, финском, датском и норвежском языках. Маршрутизация между экспертами и настраиваемые шаблоны позволяют применять её в многоязычном чате и переключать используемые модели и квантование через конфигурацию. В репозитории представлены веса Safetensors. Лицензия в предоставленных сведениях не указана.
Llama-3-Typhoon-1.5-8B-Instruct — инструктивная языковая модель команды SCB10X AI, созданная на основе Llama 3 8B. Это плотная decoder-only модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена; для работы используется Transformers версии 4.38.0 или новее. Модель предназначена для диалогов и выполнения инструкций на тайском и английском языках. В карточке приведены результаты на тайских экзаменационных тестах, M3Exam и MMLU. Модель может использоваться для ответов на вопросы, объяснений и помощи в учебных задачах. Разработчики отмечают, что модель всё ещё находится в разработке и может выдавать неточные, предвзятые или нежелательные ответы, несмотря на наличие защитных ограничений. Распространяется по лицензии Llama 3 Community License.
Lumma-0.6B-Instruct — компактная плотная языковая модель компании FrontiersMind для следования инструкциям и диалоговой генерации текста. Она основана на Lumma-0.6B-Base, предварительно обучена с нуля на 1 трлн токенов, а затем дообучена на инструкциях и с помощью Direct Preference Optimisation; это чекпойнт до этапа обучения с RL. В репозитории указаны 800,5 млн параметров, контекст до 12 288 токенов и формат safetensors. Модель предназначена для приложений с ограниченными вычислительными ресурсами и ориентирована прежде всего на надёжное выполнение инструкций на английском и десяти индийских языках: хинди, бенгальском, тамильском, телугу, маратхи, гуджарати, каннада, малаялам, панджаби и одия. В README отмечены также возможности в математике и программировании, но основная цель — эффективное следование инструкциям; авторы сообщают о сравнительных результатах на тестах, однако численные показатели здесь не приведены. Модель распространяется по лицензии Apache-2.0. Её небольшой размер рассчитан на ресурсно-ограниченные среды, но карточка не приводит конкретных требований к оборудованию или гарантий качества; текущий вариант обозначен как чекпойнт до RL-обучения.
Buseak/md_mt5_0109_v7 — дообученная модель семейства mT5, созданная на основе Buseak/md_mt5_0109_v6. Она содержит 157,4 млн параметров и использует архитектуру MT5ForConditionalGeneration для преобразования текста в текст. В карточке приведены результаты оценки: loss 0,0600, BLEU 0,6466 и средняя длина генерации 18,94 токена. Модель предназначена для задач генерации текста по текстовому входу. Данные о конкретном сценарии применения, обучающем наборе, поддерживаемых языках и ограничениях не раскрыты. Распространяется под лицензией Apache-2.0.
bartowski/MiniMaxAI_MiniMax-M2-GGUF — это набор GGUF-квантизаций модели MiniMax-M2, разработанной MiniMaxAI. Квантизации выполнены bartowski с использованием llama.cpp b6907 и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты с разной степенью квантования: от Q8_0 размером 243,14 ГБ до IQ2_XS размером 63,14 ГБ. Более крупные варианты обычно обеспечивают более высокое качество, а компактные требуют меньше оперативной памяти, но могут заметно уступать в качестве. Рекомендуемыми в карточке названы Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS. Архитектура исходной модели, количество параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Сильная сторона набора — широкий выбор квантизаций для различного объёма доступной памяти и аппаратных платформ; отдельные форматы оптимизированы для ARM, AVX или Apple Silicon. Ограничения включают очень большие размеры файлов даже у компактных вариантов, возможное снижение качества при низких уровнях квантования и отсутствие указанного chat template, из-за чего формат запросов может потребовать проверки по исходной карточке модели. Лицензия в README не указана.
MiniMax-M2.5-MLX-6bit — это 6-битно квантованная версия языковой модели MiniMax-M2.5, разработанной MiniMaxAI. Квантование выполнено командой LM Studio с использованием MLX и предназначено для запуска на компьютерах Apple Silicon. Модель относится к задачам генерации текста и совместима с библиотекой Transformers. В README не указаны архитектура исходной модели, количество параметров, поддерживаемые языки, размер контекстного окна или сведения о мультимодальности, поэтому эти характеристики нельзя достоверно описать. Ключевая особенность данной версии — снижение точности представления весов до 6 бит для оптимизации локального запуска на Apple Silicon; это может уменьшать требования к памяти, но потенциально влияет на качество по сравнению с полной точностью. Модель распространяется по лицензии modified-MIT; подробные условия приведены в репозитории MiniMaxAI. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям. Модель может генерировать неточные, вредные или неподходящие результаты.