I.3Извлечение и структурирование данных

Muennighoff/SGPT-125M-weightedmean-msmarco-specb-bitfit — модель эмбеддингов предложений на архитектуре GPT-Neo с 137,7 млн параметров и контекстом до 2048 токенов. Она обучена для вычисления смыслового сходства текстов: README указывает на обучение с MultipleNegativesRankingLoss и косинусной мерой сходства, а имя модели указывает на данные MS MARCO и вариант bitfit. Модель предназначена для получения векторных представлений предложений и сравнения запросов с текстами, например при семантическом поиске и ранжировании кандидатов по релевантности. Модель разработана Muennighoff и распространяется в формате PyTorch. Карточка отсылает за инструкциями по использованию и результатами оценки к исходному коду, папке eval и статье. Лицензия в предоставленных сведениях не указана.

Shisa V2 Qwen2.5 7B — двуязычная чат-модель общего назначения от Shisa.AI, полученная дообучением Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалогов и генерации текста на японском и английском языках. Разработчики сосредоточились на постобучении на синтетических данных, чтобы улучшить качество японских ответов, сохранив возможности базовой модели на английском языке. Модель подходит для ответов на вопросы, следования инструкциям, многоходового общения, ролевых диалогов и перевода между японским и английским. Она выдаёт текст, поддерживает интерфейс вызова инструментов и использует шаблон чата базовой модели. Метаданные указывают контекст 32 768 токенов; в README для семейства приведено значение 128K/8K, поэтому доступная длина может зависеть от конфигурации и способа запуска. Модель использует Transformers и формат safetensors. По опубликованным оценкам модель улучшает ряд японских бенчмарков относительно Qwen2.5-7B-Instruct, хотя в некоторых англоязычных тестах базовая модель показывает более высокие результаты. Лицензия — Apache 2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских данных; модель может ошибаться и генерировать неточные ответы.

Shisa V2 UnPhi4 14B — чат-модель общего назначения от Shisa.AI, дообученная на базе unsloth/phi-4. Она рассчитана на диалоги и другие текстовые задачи на японском и английском языках; разработчики сосредоточились на улучшении качества японских ответов, сохранив возможности базовой модели на английском. Модель содержит 14,1 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 16 384 токенов. По опубликованным оценкам Shisa V2 UnPhi4 14B улучшает средний результат базовой Phi-4 на японских тестах, сохраняя сопоставимые результаты на английских. Это текстовая модель, не предназначенная для обработки изображений, звука или видео. Она распространяется по лицензии Apache 2.0; для инференса проверена совместимость с vLLM и SGLang.

SimLM — англоязычная плотная модель для поиска пассажей, разработанная авторами метода Similarity Matching with Language Model Pre-training. Она использует архитектуру BERT с узким представлением, которое сжимает текст пассажа в плотный вектор. В карточке указана версия, дообученная на MS MARCO. Модель предназначена для извлечения эмбеддингов текста и построения систем семантического поиска и ранжирования пассажей, в том числе для поиска по неразмеченным корпусам. Параметры можно применять как векторные представления документов или запросов в поисковом конвейере. Модель содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты экспериментов на MS MARCO и TREC Deep Learning, однако конкретные значения результатов данной версии в доступном фрагменте таблицы не видны. Модель распространяется под лицензией MIT.

Smol 7B — диалоговая языковая модель, опубликованная rishiraj и дообученная на openchat/openchat_3.5 с использованием открытого набора данных HuggingFaceH4/no_robots и рецептов The Alignment Handbook. Модель построена на архитектуре Mistral с плотной сетью и содержит 7,1 млрд параметров; для генерации текста поддерживается контекст до 8192 токенов. Модель предназначена для диалога, ответов на вопросы и выполнения текстовых инструкций на английском языке. В карточке приведены результаты на бенчмарках MMLU, ARC, HellaSwag, TruthfulQA, Winogrande и GSM8K; на момент публикации автор заявлял о наивысшем результате среди чат-моделей 7B на MMLU. Модель выпущена под лицензией Apache-2.0. Как и другие языковые модели, она может ошибаться или выдавать недостоверные ответы; результаты бенчмарков не гарантируют качество в конкретном сценарии.

SmolLM2-1.7B-Instruct — компактная языковая модель Hugging Face на 1,7 млрд параметров, дообученная на базе HuggingFaceTB/SmolLM2-1.7B. Это плотный Transformer-декодер семейства Llama для генерации текста и диалогов; модель поддерживает контекст до 8192 токенов и рассчитана на запуск на устройстве. Версия Instruct прошла supervised fine-tuning и Direct Preference Optimization. Она предназначена для следования инструкциям, переписывания и суммаризации текста, а также вызова функций. Модель ориентирована прежде всего на английский язык; репозиторий содержит веса Safetensors и формат ONNX. Лицензия — Apache-2.0. По сравнению с предыдущей версией семейства улучшены следование инструкциям, знания, рассуждения и математика, однако ответы могут содержать фактические ошибки, быть логически непоследовательными или отражать смещения обучающих данных. Важную информацию следует проверять; модель не заменяет экспертную оценку.

Starling-LM-11B-alpha-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 от Mistral AI и Delcos/Starling-LM-11B-alpha методом SLERP с помощью mergekit. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоге и ответов на инструкции. Её можно применять для чат-ботов и интерактивных текстовых помощников. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Метаданные указывают на поддержку чата, но языки в предоставленных данных не перечислены.

Starling_Monarch_Westlake_Garten-7B-v0.1-GGUF — квантизированная версия текстовой генеративной модели Starling_Monarch_Westlake_Garten-7B-v0.1. Исходная модель опубликована giraffe176, а GGUF-квантизации подготовлены bartowski с использованием llama.cpp. Модель объединяет Mistral-7B-v0.1, Starling-LM-7B-alpha, AlphaMonarch-7B, WestLake-7B-v2-laser и garten2-7b. Модель предназначена для генерации текста и общих задач понимания и рассуждения на естественном языке. В README указаны результаты на EQ-Bench, ARC, HellaSwag, MMLU, TruthfulQA, Winogrande и GSM8K; среди приведённых показателей — 80,01 на EQ-Bench, 71,76% на ARC, 88,15% на HellaSwag и 65,07% на MMLU. Это указывает на пригодность для диалоговых, общеобразовательных, логических и текстовых сценариев, однако результаты зависят от методики тестирования. Модель относится к классу 7B и поставляется в формате GGUF с вариантами квантизации от Q4 до Q8, что позволяет выбирать баланс между размером файла, требованиями к памяти и качеством. Мультимодальность, поддерживаемые языки и размер контекстного окна в README не указаны. Лицензия — CC BY-NC 4.0, поэтому коммерческое использование может быть ограничено условиями лицензии.

Карточка модели bennegeek/stella_en_1.5B_v5 на Hugging Face совпадает с карточкой delwinn/stella_en_1.5B_v5, поэтому описание составлено по ней. delwinn/stella_en_1.5B_v5 — англоязычная модель эмбеддингов, разработанная на основе Alibaba-NLP/gte-large-en-v1.5 и Alibaba-NLP/gte-Qwen2-1.5B-instruct. Она предназначена для поиска релевантных текстов по запросу и оценки семантического сходства. Модель построена на архитектуре Qwen2, содержит 1,5 млрд параметров и выдаёт текстовые векторы; поддерживает представления размером 512, 768, 1024, 2048, 4096, 6144 и 8192 измерения. Для большинства задач предусмотрены варианты промптов s2p и s2s; обычно автор рекомендует размерность 1024. Модель обучена с использованием MRL и доступна в формате PyTorch/SafeTensors. Хотя нативный контекст составляет 131072 токена, автор рекомендует ограничивать последовательности 512 токенами: модель обучалась на такой длине и, по описанию, хуже справляется с поиском по специализированным длинным текстам. Детали обучения и использованные наборы данных в README не раскрыты. Лицензия — MIT.

NovaSearch/stella_en_400M_v5 — англоязычная модель эмбеддингов, обученная разработчиками Stella на основе Alibaba-NLP/gte-large-en-v1.5 и Alibaba-NLP/gte-Qwen2-1.5B-instruct. Она предназначена для преобразования текстов в векторы и оценки семантического сходства, включая поиск релевантных фрагментов по запросу. Модель содержит 433,9 млн параметров, поддерживает контекст до 8192 токенов и использует архитектуру SentenceTransformer на PyTorch; для большинства задач предусмотрены промпты s2p для поиска и s2s для сравнения текстов. Обучение с Matryoshka Representation Learning позволяет получать эмбеддинги размером 512, 768, 1024, 2048, 4096, 6144 или 8192 измерения; авторы считают 1024 измерения достаточными для большинства задач. Модель можно применять для семантического поиска, поиска по запросу релевантных фрагментов и измерения сходства предложений. Хотя метаданные указывают контекст 8192 токена, README рекомендует длину последовательности 512: по наблюдениям авторов, на специализированных задачах поиска по длинным текстам модель работает хуже. Лицензия — MIT.

StrangeMerges_8-7B-slerp — объединённая методом SLERP языковая модель, созданная Gille с помощью LazyMergekit на основе Gille/StrangeMerges_7-7B-slerp и Gille/StrangeMerges_5-7B-ties. Это плотная архитектура Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалоговых ответов; поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для создания диалоговых приложений, генерации продолжений текста и ответов на запросы в длинном контексте. В README приведены результаты оценки на отдельных бенчмарках Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag; эти результаты не гарантируют качество на других задачах. Язык модели в предоставленных материалах не уточнён. Лицензия — Apache-2.0. Сведения о специальных ограничениях или целевых предметных областях в карточке не приведены.

Tarek07_Legion-V2.1-LLaMa-70B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Legion-V2.1-LLaMa-70B, разработанной Tarek07. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; исходная модель доступна как Tarek07/Legion-V2.1-LLaMa-70B. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты с разным уровнем сжатия и качеством: от Q8_0 размером около 75 ГБ до Q2_K размером около 26 ГБ. Рекомендуемыми указаны, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; варианты с более низкой разрядностью требуют меньше оперативной памяти, но снижают качество. Известно, что модель имеет размер 70 миллиардов параметров и работает в текстовой модальности. Архитектура, поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. Для работы следует использовать формат подсказок, совместимый с шаблоном Llama 3.3, с секциями system, user и assistant. Лицензия указана как llama3.3; дополнительные условия исходной модели в README не приведены.

handy-computer/whisper-base-gguf — это конверсия мультиязычной модели распознавания речи OpenAI Whisper base в формат GGUF для использования с transcribe.cpp. Модель разработана на основе openai/whisper-base и предназначена для автоматического преобразования аудио в текст, определения языка и перевода речи с любого поддерживаемого языка на английский. Для длинных записей используется декодирование фрагментами с окнами по 30 секунд; потоковая обработка не поддерживается, доступны сегментные временные метки. Модель построена на архитектуре encoder-decoder Transformer и поддерживает широкий набор языков, включая русский, английский, немецкий, французский, испанский, китайский, японский и многие другие. Доступны варианты F32, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 59 до 292 МБ. На тестовой выборке LibriSpeech test-clean показатель WER составляет 5,10–5,36% в зависимости от квантования, что указывает на высокое качество распознавания английской речи; качество заметно различается между языками, поэтому для менее распространённых языков требуется дополнительная проверка. Модель подходит для локальной транскрибации, субтитров, голосового ввода, анализа аудиозаписей и перевода речи. Квантованные варианты снижают требования к памяти при небольшом ухудшении качества, но README не содержит данных о точных требованиях к оборудованию и полной производительности. Распространяется по лицензии Apache-2.0.

MaziyarPanahi/Yi-1.5-34B-Chat-GGUF — набор файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе чат-модели Yi-1.5-34B-Chat, разработанной командой 01-ai. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Модель имеет размер 34B параметров и доступна в вариантах квантования от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством генерации. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другими инструментами. В README не указаны языки, размер контекста и поддерживаемые модальности; по представленным данным модель является текстовой. К сильным сторонам относятся широкий выбор уровней квантования и удобство локального использования с CPU и GPU через экосистему GGUF. Ограничениями являются повышенные требования к ресурсам для версии 34B, особенно при минимальном квантовании, а также возможная потеря качества в более компактных вариантах. Для модели указана лицензия Apache-2.0.

YOYO-AI_Qwen3-30B-A3B-Mixture-2507-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Qwen3-30B-A3B-Mixture-2507, разработанной YOYO-AI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска задач генерации текста через llama.cpp, LM Studio и другие совместимые проекты. В названии указано 30B параметров и обозначение A3B Mixture, однако подробности архитектуры, число активных параметров, поддерживаемые языки, длина контекста и доступные модальности в представленном README не описаны. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций. Варианты Q6 и Q5 позиционируются как обеспечивающие очень высокое или высокое качество, Q4 — как оптимальные по соотношению качества и размера, а Q3 — как подходящие для систем с ограниченным объёмом оперативной памяти. Сильная сторона этой версии — широкий выбор размеров файлов и возможность локального запуска на совместимом оборудовании; рекомендованным вариантом по умолчанию указан Q4_K_M. Более агрессивная квантизация уменьшает требования к памяти, но снижает качество генерации. Формат prompt не указан, поэтому его следует уточнять на странице исходной модели. Лицензия в README не приведена.

32B-Qwen2.5-Kunou-v1-GGUF — это набор квантизированных моделей для генерации текста, созданный пользователем bartowski на основе Sao10K/32B-Qwen2.5-Kunou-v1. Модель предназначена для диалогов и других сценариев текстовой генерации; в README приведён шаблон промпта в формате ChatML с ролями system, user и assistant. Модель имеет размер 32B параметров и поставляется в формате GGUF для запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от F16 до низкоразрядных Q2 и IQ-квантизаций объёмом примерно от 13 до 66 ГБ. Старшие варианты сохраняют более высокое качество, а младшие требуют меньше оперативной памяти, но могут заметно уступать по качеству; для большинства сценариев рекомендуются варианты Q4_K_M, Q5 или Q6. Сведения о поддерживаемых языках, максимальном контексте и мультимодальности в README не указаны. К преимуществам относятся широкий выбор квантизаций, возможность локального запуска и использование imatrix-квантизации, направленной на сохранение качества. Ограничения зависят от выбранного варианта и доступных аппаратных ресурсов; низкоразрядные сборки имеют более низкое качество, а полноразмерная F16-версия требует значительного объёма памяти. Лицензия указана как qwen и other; в README приведена ссылка на лицензию Qwen/Qwen2.5-32B-Instruct.

AgentCPM-Explore — агентная языковая модель с 3,7 млрд параметров, разработанная OpenBMB и построенная на архитектуре Qwen3. Она дообучена на Qwen/Qwen3-4B-Thinking-2507 и предназначена для продолжительных задач, требующих рассуждений, поиска и взаимодействия с инструментами и средой. Модель поддерживает контекст до 262 144 токенов и представлена в формате Safetensors для Transformers. По данным разработчиков, AgentCPM-Explore рассчитана на многошаговое исследование: она может поддерживать более 100 раундов взаимодействия, сопоставлять сведения из нескольких источников, менять стратегию поиска и проверять актуальные данные. Разработчики сообщают о результатах на восьми бенчмарках длительных агентных задач, включая GAIA, HLE и BrowserComp, и позиционируют модель как компактную основу для агентов, в том числе на устройствах с ограниченными ресурсами. Для практического применения генерация текста модели может служить основой агентного контура с поиском и инструментами; сама модель не гарантирует доступ к вебу или выполнение действий без соответствующей инфраструктуры. Модель распространяется по лицензии Apache-2.0.

ai9stars_G9v3-3B-GGUF — это GGUF-квантизированная версия языковой модели G9v3-3B, разработанной ai9stars и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, включая сценарии с длинным контекстом и вызовом инструментов. Заявлена поддержка английского и китайского языков. Исходная архитектура обозначена как Llama, однако точные параметры архитектуры и размер контекстного окна в README не указаны. Модель доступна в вариантах от BF16 до низкобитных квантований Q2 и IQ3/Q4, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы варианты Q4_K_M, Q5, Q6 и некоторые другие; для устройств с ограниченной памятью доступны более компактные версии, но с заметным снижением качества. Формат поддерживается llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими совместимыми инструментами. Для работы может потребоваться обновление программ, если модель недавно получила поддержку. Лицензия — Apache-2.0. README не содержит подробных результатов тестирования, точных сведений о контекстном окне, системных требованиях или ограничениях исходной модели, поэтому качество и пригодность для конкретных задач следует оценивать отдельно.

snezhanata/alpaca_v2 — языковая модель для генерации текста и диалоговых сценариев, размещённая на Hugging Face. Модель рассчитана на использование через библиотеку Transformers и имеет объём 7,5 млрд параметров. В метаданных она отмечена как conversational и связана с экосистемой Llama Factory и семейством Ministral. Модель поддерживает контекст до 32 768 токенов и может применяться для ведения диалогов, генерации ответов, написания и продолжения текста, а также интеграции в приложения на базе text-generation. README не содержит сведений о разработчике, языках, лицензии, исходной модели, обучающих данных и результатах оценки, поэтому эти характеристики нельзя подтвердить.

snezhanata/alpaca_v3 — генеративная языковая модель для создания и продолжения текста, размещённая на Hugging Face. По метаданным она использует экосистему Transformers и связана с семейством Ministral; сведения о разработчике в карточке модели не приведены. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для сценариев, где требуется генерировать связный текст или вести диалог, включая использование через совместимые инструменты Transformers и приложения на базе conversational text generation. Карточка модели не содержит описания обучающих данных, результатов оценки, поддерживаемых естественных языков, лицензии, архитектурных деталей и рекомендаций по применению. Поэтому модель следует предварительно проверять на качество, фактическую точность, устойчивость к нежелательным ответам и соответствие требованиям конкретной задачи.

lightonai/answerai-colbert-small-v1 — модель ColBERT в формате PyLate, основанная на answerdotai/answerai-colbert-small-v1 и подготовленная для работы с библиотекой PyLate. Это компактная BERT-модель примерно с 40 млн параметров: она кодирует запросы и документы в последовательности 96-мерных векторов и оценивает их сходство оператором MaxSim. Для запросов предусмотрено до 32 токенов, для документов — около 300; максимальный контекст по метаданным составляет 512 токенов. Модель предназначена для семантического поиска по коллекциям текстов и переранжирования результатов, в том числе в RAG-системах. Её можно использовать для получения векторных представлений запросов и документов, поиска релевантных фрагментов и вычисления оценок сходства. Карточка указывает английский базовый ретривер; поддержка других языков не заявлена. Репозиторий распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

aya-expanse-8b-GGUF — это GGUF-квантизация языковой модели aya-expanse-8b, разработанной CohereForAI и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на русском и других языках: английском, французском, немецком, испанском, итальянском, португальском, японском, корейском, китайском, арабском, греческом, персидском, польском, индонезийском, чешском, иврите, хинди, нидерландском, румынском, турецком, украинском и вьетнамском. В репозитории доступны варианты от исходных весов F16 размером 16,07 ГБ до квантизаций Q8_0, Q6, Q5, Q4 и Q3, а также IQ-вариантов, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Для запуска рекомендуется использовать llama.cpp или LM Studio; для модели указан специальный шаблон промпта с токенами ролей системы, пользователя и чат-бота. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других модальностей. Сильная сторона модели — широкий набор поддерживаемых языков и наличие множества вариантов квантизации, включая рекомендуемые Q6_K_L, Q6_K, Q5 и Q4, а также оптимизированные под ARM форматы. Качество снижается при использовании более компактных Q3-вариантов, а некоторые форматы имеют специальные требования к аппаратным инструкциям или не рекомендуются для macOS и Windows. Модель распространяется по лицензии CC-BY-NC-4.0 и предназначена только для некоммерческого использования; доступ к исходной модели может требовать согласия с условиями лицензии и предоставления данных через gated-доступ.

jondurbin/bagel-34b-v0.2 — экспериментальная версия языковой модели, дообученная Jon Durbin на базе yi-34b-200k с помощью Bagel. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров и контекстом до 200 000 токенов; опубликованные веса представлены в формате safetensors. Модель предназначена для диалогов и генерации текста, включая творческое письмо и ролевые сценарии. В README указано, что это версия после этапа SFT, до применения DPO; автор отмечает, что она может лучше подходить для творческих задач и ролевых диалогов, тогда как версия после DPO лучше показывает себя на бенчмарках. При дообучении использовались данные для диалогов, ответов на вопросы, рассуждений, математики, программирования, SQL, понимания прочитанного и ролевых сценариев. Для примеров применялись варианты форматов Vicuna, Llama 2, Alpaca и ChatML. Лицензия — Apache-2.0. Модель рассчитана на текстовый ввод и выдаёт текст; её поведение и качество могут зависеть от формата промпта, а карточка не содержит систематической оценки качества этой версии.

Модель swardiantara/bert-tiny-snli-k1-adaptive-cosine — компактный Sentence Transformer, дообученный на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерностью 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура состоит из BERT с усреднением токенных представлений; в метаданных указано 4,4 млн параметров и поддержка контекстного окна до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Модель принимает текст и выдаёт эмбеддинги. В README описано обучение на 549 370 примерах пар предложений с использованием OrdinalProxyContrastiveLoss; примеры данных и базовая модель указывают на английский язык. Подходит для компактных систем семантического поиска и ранжирования по сходству. Лицензия в предоставленных данных не указана.

swardiantara/bert-tiny-snli-k1-fixed-cosine — компактная Sentence Transformer модель на базе google/bert_uncased_L-2_H-128_A-2, дообученная для сопоставления предложений и поиска по тексту. Она кодирует предложения и абзацы в плотные векторы размерности 128; сходство между ними оценивается косинусной мерой. Архитектура включает BERT с усреднением токенных представлений, а размер модели составляет 4,4 млн параметров. Модель принимает только текст. Максимальная длина последовательности в README указана как 128 токенов; лимит контекста базовой модели в метаданных — 512 токенов. Она предназначена для семантического поиска и retrieval-сценариев, где нужны векторные представления или сравнение текстов. В карточке описано дообучение на 549 370 примерах; язык обучающих данных и лицензия не установлены по предоставленным сведениям.

BGE-Code-v1 — модель для создания векторных представлений кода и текста, разработанная командой BAAI и опубликованная в проекте FlagEmbedding. Она предназначена для поиска кода по запросам на естественном языке, поиска текстовых документов и мультиязычного семантического поиска. Модель основана на архитектуре Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она рассчитана на запросы на английском и китайском языках, охватывает 20 языков программирования и также поддерживает поиск на других естественных языках, включая японский и французский. README сообщает о высоких результатах на бенчмарках CoIR и CodeRAG. Модель выдаёт эмбеддинги для последующего поиска и сравнения сходства; метаданные также указывают поддержку чат-возможностей и интерфейса вызова инструментов. Для работы нужны совместимые библиотеки, а примеры использования ориентированы на FlagEmbedding, Sentence Transformers и Transformers. Репозиторий распространяется под лицензией Apache-2.0.

Это ONNX-конверсия BAAI/bge-reranker-large, подготовленная для запуска на GPU с оптимизациями уровня O4 через Optimum. Модель на архитектуре XLM-RoBERTa с 658,7 млн параметров предназначена для оценки релевантности пары текста и ранжирования результатов поиска. Модель принимает текстовые пары и выдаёт оценку, которую можно использовать для сортировки документов или ответов по релевантности запросу. Указанное в метаданных ограничение контекста — 514 токенов. Репозиторий содержит ONNX-формат; лицензия — MIT.

Stffens/bge-small-rrf-v3 — англоязычная модель для создания текстовых эмбеддингов и семантического поиска, разработанная автором проекта vstash. Она дообучена на базе BAAI/bge-small-en-v1.5 с помощью сигнала расхождения результатов гибридного поиска и обучена на данных BEIR SciFact, NFCorpus и FiQA. Модель использует архитектуру BERT, содержит около 40 млн параметров по метаданным (в README указано 33 млн), формирует векторы размерности 384 и поддерживает контекст до 512 токенов. Модель предназначена для семантического поиска и использования в качестве эмбеддинговой основы RAG-систем. Автор приводит улучшения относительно базовой модели и предыдущей версии на нескольких наборах BEIR; результаты зависят от корпуса и поискового конвейера. Для NFCorpus v2 может быть предпочтительнее, а специализированные клинические, юридические и насыщенные терминологией корпуса могут требовать дообучения. Модель рассчитана на английский язык, для кросс-языкового поиска может уступать многоязычным моделям. Распространяется по лицензии MIT.

rinna/bilingual-gpt-neox-4b-instruction-sft — двуязычная разговорная языковая модель компании rinna, созданная дообучением GPT-NeoX на 4,8 млрд параметров для выполнения инструкций. Архитектура — плотный трансформер GPT-NeoX; модель принимает текст и генерирует текст. Контекст составляет 2048 токенов. Модель предназначена для диалогов, ответов на вопросы и других запросов на японском и английском языках. Для диалога README задаёт формат с репликами «ユーザー» и «システム»; качество генерации чувствительно к параметрам декодирования, поэтому их стоит подбирать под задачу. Модель дообучалась на данных Anthropic HH-RLHF и FLAN Instruction Tuning, включая японские переводы. Выпущенная 2 августа 2023 года версия распространяется по лицензии MIT.

Это GGUF-квантизированная версия языковой модели olmo-marvin-full-merged, разработанной Burnt-Toast и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально с помощью llama.cpp и совместимых приложений, включая LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Доступны варианты от полноразмерных весов BF16 объёмом 64,47 ГБ до более компактных конфигураций с квантованием Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ. Квантование выполнено с использованием imatrix и llama.cpp версии b7721; некоторые варианты оптимизированы для снижения потребления памяти при сохранении качества, а наиболее качественными в README названы Q6_K_L, Q6_K и варианты Q5_K. Поддерживается шаблон диалога с ролями system, user и assistant. Архитектура, число параметров, контекстное окно, языки, мультимодальность и лицензия в предоставленных данных не указаны. Качество и требования к ресурсам зависят от выбранного варианта квантования: компактные версии экономичнее, но могут заметно уступать старшим по качеству.