Что случилось. Группа «Т-Технологии» открыла доступ к двум большим языковым моделям: T-Pro на 32 млрд параметров и обновленной T-Lite на 7 млрд параметров. Это лучшие в мире открытые модели на русском языке, показали индустриальные бенчмарки, например MERA, ruMMLU, MT-Bench и AlpacaEval.
Модели T-Pro большее число параметров позволяет учитывать больше контекста и особенностей языка, лучше запоминать информацию, делать более точные и сложные выводы. Модель работает в двух режимах: ее можно дообучить под конкретные бизнес-задачи, а также использовать в режиме промптинга — ставить перед ней задачи в режиме диалога.
Обновленная T-Lite лучше улавливает контекст, понимает сложные запросы и выдает более точные ответы. Она создает тексты, которые ближе к человеческому стилю письма, с меньшим количеством ошибок и большей логической связностью. Также модель легко дообучается под нужды конкретных отраслей — например, финансов, медицины, ретейла или образования.
Что это значит для бизнеса. Использовать модели бесплатно может любой бизнес — их можно скачать на платформе Hugging Face под лицензией Apache 2.0.
Так, с помощью языковой модели можно создавать умные чат-боты в поддержке, которые отвечают не по скриптам, а в режиме живого диалога. Это позволит автоматизировать разбор клиентских обращений.