Сбер выложил в открытый доступ новые увеличенные версии модели ruCLIP

Сбер выложил в открытый доступ новые увеличенные версии модели ruCLIP

Линейка моделей ruCLIP для ранжирования изображений и подписей к ним на русском языке, а также оценки семантической близости изображений и текстов, разработанная командами Sber AI и SberDevices, стала доступна на GitHub, в дополнение к ранее опубликованной модели ruCLIP Small.

Промышленные версии с наивысшим качеством и количеством параметров — ruCLIP Base exclusive и ruCLIP Large exclusive — доступны в хабе предобученных моделей, датасетов и контейнеров DataHub на платформе SberCloud ML Space.
Данные модели на ряде датасетов успешно обошли ансамбль оригинальной англоязычной модели CLIP и русско-английского переводчика.

Успешное обучение ruCLIP и доступность моделей в open source позволит эффективно решать многие задачи компьютерного зрения в различных продуктах и сервисах в режиме zero-shot, то есть без необходимости дорогостоящего дообучения.

В релиз вошли шесть моделей ruCLIP, которые отличаются, в частности, размером использованного патча (14?14, 16?16, 32?32) и размерами входных изображений (224?224, 336?336 и 384?384). Семантика названия моделей выглядит следующим образом:

- ruclip-vit-base-patch16-224;

- ruclip-vit-base-patch32-224;

- ruclip-vit-base-patch32-384 — ruCLIP Base;

- ruclip-vit-large-patch14-224 — ruCLIP Large;

- ruclip-vit-large-patch14-336 — ruCLIP Large exclusive — доступна DataHub SberCloud ML Space only;

- ruclip-vit-base-patch16-384 — ruCLIP Base exclusive — доступна в DataHub SberCloud ML Space only.

Посмотреть детальное сравнение всех шести новых обученных моделей можно в репозитории на GitHub. Обучение строилось на самостоятельно собранном датасете из 240 млн пар и заняло 12 полных дней на 256 Tesla GPU A100 на платформе SberCloud ML Space.

Экосистема Сбера является одним из лидеров в области ML-решений — уже сегодня мы предлагаем разработчикам, дата-сайентистам и представителям бизнеса всё больше инструментов и сервисов: от платформ для ML-разработки, как SberCloud ML Space, до законченных ML-решений, как SmartSpeech. Также за последний год объединённые команды Sber AI и SberDevices выпустили ряд трансформерных моделей — ruGPT-3 & family, — среди которых и популярная text-to-image ruDALL-E. Модели занимают первые строчки рейтингов различных бенчмарков и, в отличие от большинства аналогичных решений, размещены в открытом доступе. Эксклюзивные промышленные модели доступны в DataHub SberCloud ML Space. Всё это позволяет решать бизнесу многие задачи для создания собственных прорывных продуктов на базе ML, ускорять time to market и снижать затраты на разработку

Sber AI — R&D-подразделение Сбера, отвечающее за развитие технологий искусственного интеллекта и их внедрение в различные сферы жизни и бизнеса.

SberDevices — компания экосистемы Сбера, центр экспертизы по решениям на основе искусственного интеллекта в таких областях, как речевые технологии, технологии понимания естественного языка, лицевая и голосовая биометрия. Компания также фокусируется на создании умных устройств для конечных потребителей и корпоративных клиентов. SberDevices учреждена в мае 2019 года в качестве Департамента блока «Технологии» Сбербанка.

SberCloud — облачная экосистемная платформа Сбера. Компания предлагает широкую линейку инфраструктурных и платформенных облачных решений, а также инструменты для работы с искусственным интеллектом, базирующиеся на ресурсах суперкомпьютеров Christofari и Christofari Neo. Информационно-технологические платформы и услуги SberCloud являются основой цифровой экосистемы Сбера, предоставляются внешним клиентам — компаниям, государственным организациям и физическим лицам.


Просмотров: 699
Читайте нас в
Подписка на новости
E-Mail: 

Рейтинг банков
"Активность пресс-службы банков"

Банк Рейтинг
1 СберБанк (Уральский банк) 1000
2 ВТБ 692
3 Россельхозбанк 624
4 Банк «Открытие» 563
5 Примсоцбанк 261
6 Уральский банк реконструкции и развития 236
7 (+1) РОСБАНК 212
8 (+2) ЧЕЛИНДБАНК 206
9 (+2) Альфа-Банк 174
10 (-1) Московский кредитный банк 170
11 (+2) Азиатско-Тихоокеанский Банк 165
12 (-5) ПСБ банк 158
13 (+1) Банк УРАЛСИБ 132
14 (-2) Абсолют Банк 110
15 ВУЗ-банк 71
16 (+5) СДМ-Банк 65
17 Газпромбанк 51
18 (-2) Экспобанк 49
19 (+1) Банк Синара 46
20 (+10) Авангард банк 44
на 20.05.2022
Нашли ошибку? Выделите текст и нажмите Ctrl+Enter
Для повышения удобства работы с сайтом ИА "БанкиИформСервис" использует файлы cookies. В cookies содержатся данные о прошлых посещениях сайта. Если вы не хотите, чтобы эти данные использовались, отключите cookies в настройках браузера.

   Подробнее