Похоже, что Тесла приобрел один из самых мощных суперкомпьютеров в мире. На данный момент установка имеет производительность 1,8 эксафлопса, и суть в том, что это всего лишь треть будущего суперкомпьютера Dojo.
Теперь система включает в себя 720 узлов, каждый из которых содержит восемь ускорителей Nvidia A100. То есть в общей сложности 5760 адаптеров. Стоит отметить, что приведенная выше производительность 1,8 эксафлопса является производительностью тензорных ядер в вычислениях с половинной точностью (FP16). Для FP32 этот показатель уже вдвое ниже. Но дело в том, что это все еще не та производительность, которую обычно оценивают суперкомпьютеры.
Обычная производительность Nvidia A100 в FP32 составляет 19,5 ТФЛОПС. Таким образом, для текущей системы Tesla речь идет о 112,3 ТФЛОПС, и это значения в соответствии со спецификациями карт Nvidia. Суперкомпьютер еще не прошел тест High Performance Linpack (HPL), чтобы занять свое место в ТОП-500, но пока он нацелен на третье место, согласно ноябрьскому рейтингу. Глава Tesla AI development Андрей Карпатов (Andrej Karpathy), в свою очередь, предложил пятое место.
Но стоит помнить, что текущая версия системы Tesla является лишь третьей из окончательной конфигурации Dojo, поэтому в итоге у компании, вероятно, будет второй по мощности суперкомпьютер в мире.