Meta планирует запустить производство новых ИИ-чипов в сентябре, чтобы снизить расходы на GPU на фоне дефицита компонентов. Об этом сообщает Reuters со ссылкой на внутреннюю служебную записку компании.
По данным агентства, как минимум один чип прошёл этап тестирования примерно за шесть недель. Meta разрабатывает чип совместно с Broadcom, а производством займётся тайваньская TSMC. Также, как говорится в материале, компания закупает память у Samsung, накопители у Sandisk и оптоволоконное оборудование у Sumitomo Electric.
О четырёх новых чипах Meta рассказала в марте в рамках программы Meta Training and Inference Accelerator (MTIA). Часть из них уже разворачивается, остальные компания собирается внедрить в этом или следующем году.
Meta использует модульный подход к проектированию, поскольку ожидает, что требования к ИИ-системам будут быстро меняться к моменту выхода чипов в массовое производство. Тогда компания заявила: «Каждое поколение MTIA опирается на предыдущее, использует модульные чиплеты, учитывает последние данные о нагрузках ИИ и новые аппаратные технологии, а также выпускается с меньшими интервалами».
По информации Reuters, новые чипы должны помочь Meta сократить закупки GPU у Nvidia и AMD, хотя компания всё равно продолжит много тратить на решения этих поставщиков. MTIA-чипы Meta собирается применять для обучения моделей ранжирования и рекомендаций, других ИИ-нагрузок, а также для инференса в своих приложениях. Собственные ИИ-чипы компания выпускает с 2023 года.
Meta активно наращивает вычислительные мощности для своих ИИ-проектов. В апреле компания заявила, что ожидает капитальные расходы в размере от $125 млрд до $145 млрд в этом году, и значительная часть этих средств связана с ИИ.
По данным Reuters, ссылающегося на ту же записку, Meta заключает сделки по дата-центрам и энергоснабжению в разных странах и тратит десятки миллиардов долларов на мощности для обучения и запуска моделей Muse Spark. В этом году компания планирует развернуть 7 гигаватт вычислительных мощностей, а в следующем — удвоить этот показатель.
Ранее Meta также заключила соглашение с ARM для обеспечения вычислений для своих рекомендательных систем, многомиллиардный контракт с AMD на GPU Instinct и многомиллиардную сделку с Amazon по использованию собственных CPU облачной компании для задач, связанных с ИИ.
Как отмечает Reuters, Meta не единственная компания, которая пытается снизить зависимость от Nvidia. В прошлом месяце OpenAI представила процессор для инференса, который разрабатывает вместе с Broadcom. По данным агентства, Anthropic также рассматривает возможность создания собственных чипов с Samsung. Amazon и Google уже делают свои чипы для обучения и инференса ИИ, а также на рынке работает ряд стартапов, которые пытаются закрыть быстро растущий спрос.
Meta отказалась от комментариев.
Источник: Reuters.
*Организация Meta (владелец Facebook и Instagram) признана экстремистской организацией и ее деятельность запрещена на территории России.
