Wu Dao 2.0: китайская нейросеть с 1,75 трлн. параметров

В Китае представили сильного конкурента OpеnAI GPT-3.

Wu Dao 2.0: китайская нейросеть с 1,75 трлн. параметров

Разработчиками китайской нейросети выступают исследователи из академии ИИ, что в Пекине. Команда заявила, что уже готова к выпуску Wu Daо. Нейросеть насчитывает 1,75 триллиона параметров.

Если сравнивать с OpеnAI GPT-3, где присутствует только 175 миллиардов параметров, вторая версия Wu Dao превышает их в десять раз. Кроме этого, китайская нейросеть немного обошла и Google Switсh Trаnsfоrmer, которая обучена 1,6 триллионам параметров. Для обучения Wu Daо использовали как китайский язык, так и английский. По объему параметры заняли почти пять терабайтов.

Первая версия нейросети была представлена в начале весны. На разработку второй версии было потрачено три месяца. Главным отличием Wu Dao является ее мультимодальная система. Нейросеть способна выполнять ряд задач, когда другие модели способны только на выполнение одной определенной задачи.

Создатели показали, как модель способна создавать изображения и распознавать их. Также были показаны способно по генерации текста и обработке языка. Беря за основу статистическое изображения, модель способна создавать альтернативный текст путем генерации. Используя описания, модель может создавать довольно реалистичные картинки. Кроме этого, модель прекрасно справилась с предсказыванием AlphаFоld.

При задании новой задачи, модели потребуется минимальное количество новых данных. Wu Dao уже используют более 20 компаний, среди которых такие известные компании, как Xiaomi или Kuaishоu.

Обсудить и заказать можно через форму ниже

Wu Dao 2.0: китайская нейросеть с 1,75 трлн. параметров
Создание недорогих сайтов
Добавить комментарий