Nvidia Project Digits: настольный компьютер на базе Linux для разработчиков искусственного интеллекта
Скоро появится самый мощный настольный компьютер всех времен — и он будет работать под управлением Linux.
Хотите верьте, хотите нет, но эта крошечная коробочка под дисплеем станет самым мощным настольным компьютером в мире.
На выставке CES 2025 в заголовках новостей будут телевизоры с искусственным интеллектом, новые гаджеты для умного дома и новые модели ноутбуков. Однако, на мой взгляд, большой новостью с CES является Nvidia Project Digits. Этот революционный настольный суперкомпьютер с искусственным интеллектом предназначен для предоставления беспрецедентной вычислительной мощности разработчикам, исследователям и студентам, занимающимся искусственным интеллектом (ИИ). И, кстати, он будет работать под управлением ОС Nvidia DGX, специального дистрибутива Ubuntu Linux 22.04.
Как вы могли догадаться, DGX OS — это дистрибутив Linux, разработанный с оптимизацией и конфигурациями для конкретной системы, драйверами, а также инструментами диагностики и мониторинга, обеспечивающими полностью поддерживаемую версию Linux для запуска приложений искусственного интеллекта, машинного обучения и аналитики на суперкомпьютерах Nvidia DGX.
Кроме того, Nvidia также предоставит комплекты для разработки программного обеспечения для искусственного интеллекта; инструменты оркестровки; Структуры и модели каталога Nvidia NGC; платформа Nvidia NeMo для тонкой настройки моделей; и библиотеки Nvidia Rapids для ускорения обработки данных. Конечно, будучи системой Ubuntu Linux, вы можете запускать программное обеспечение Ubuntu и Linux. Так что, если захотите, вы сможете на нем поиграть в Doom. Вероятно, это первое, что я сделаю, если получу в руки одно из этих устройств.
Теперь, в коробке размером с Mac mini, ПК Nvidia Project Digits обещает обеспечить петафлопс производительности искусственного интеллекта на вашем рабочем столе. Для тех из вас, кто не зависает в мире суперкомпьютеров, петафлопс равен 1 000 000 000 000 000 (один квадриллион) операций с плавающей запятой в секунду (флопс).
До 2008 года, когда IBM представила свой суперкомпьютер Roadrunner, никто никогда не достигал такой скорости. Вскоре вы сможете иметь такой же уровень производительности компьютеров в своем домашнем офисе. Даже сегодня в последнем списке 500 лучших суперкомпьютеров есть компьютеры, производительность которых составляет чуть более двух петафлопс. Имейте в виду, что этим компьютерам также необходимо более тысячи ядер, чтобы провернуть этот трюк. О, и они все используют Linux.
Project Digits будет почти в топ-500 по скорости и будет работать на новом суперчипе GB10 Grace Blackwell от группы Nvidia. Благодаря предустановленному стеку программного обеспечения Nvidia для искусственного интеллекта и 128 ГБ памяти разработчики могут создавать прототипы, настраивать и получать большие модели искусственного интеллекта, содержащие до 200 миллиардов параметров, локально, а затем беспрепятственно развертывать их в центре обработки данных или облаке.
Суперчип Грейс Блэквелл назван в честь Грейс Хоппер, знаменитого ученого-компьютерщика, контр-адмирала ВМС США и «матери Кобола». Кроме того, название чипа дано в честь Дэвида Гарольда Блэквелла, американского математика, который внес значительный вклад в теорию игр, теорию вероятностей, теорию информации и статистику и был первым чернокожим ученым, принятым в Национальную академию наук.
В этом сверхмощном чипе вы найдете процессор Grace на базе ARM с 10 ядрами Cortex-X925 и 10 ядрами Cortex-A725. Всего 20 ядер. Процессор поддерживается графическим процессором Blackwell, оснащенным новейшими ядрами CUDA и RT от Nvidia. Компьютер имеет 128 ГБ оперативной памяти и до 4 ТБ флэш-памяти, что позволяет эффективно использовать всю эту мощь чипа.
Nvidia обещает, что разработчики ИИ смогут работать с моделями, имеющими до 200 миллиардов параметров, на одном устройстве. Для более сложных задач вы можете объединить две машины Project Digits для обработки моделей, содержащих до 405 миллиардов параметров.
Генеральный директор Nvidia Дженсен Хуанг подчеркнул преобразующий потенциал Project Digits, заявив: «Размещение суперкомпьютера ИИ на столах каждого ученого, исследователя ИИ и студента дает им возможность взаимодействовать и формировать эпоху ИИ».
Project Digits со стартовой ценой в 3000 долларов США призван сделать высокопроизводительную разработку искусственного интеллекта более доступной для более широкого круга пользователей, от малых предприятий до школ. По этой цене я ожидаю увидеть настольные компьютеры Project Digits дома.
Эта система на базе Linux, запуск которой запланирован на май 2025 года, обещает изменить ландшафт разработки искусственного интеллекта, предлагая производительность на уровне центра обработки данных в компактном форм-факторе, удобном для настольного компьютера. Я, например, сделаю все возможное, чтобы заполучить один из них.