Компания IBM представила новую технологию, которая может значительно ускорить процесс обучения искусственного интеллекта (ИИ) и сделать его более энергоэффективным. Разработанная ко-пакетная оптика (CPO) обещает сократить время обработки данных в центрах обработки данных, а также снизить энергозатраты, что особенно важно для работы с большими языковыми моделями. В результате, по прогнозам IBM, использование этой технологии может сэкономить эквивалент годового энергопотребления 5 тыс. домохозяйств в США.
Как работает новая оптическая технология
Центры обработки данных (ЦОД) традиционно используют медные провода для соединения различных компонентов, включая графические процессоры (GPU), что вызывает значительные потери времени и энергии из-за ожидания данных. Несмотря на то, что ЦОД подключаются к внешнему миру через оптоволоконные кабели, внутри они остаются зависимыми от медных соединений.
С появлением ко-пакетной оптики ситуация меняется. CPO использует оптические каналы для связи между чипами и ускорителями, что значительно увеличивает пропускную способность и снижает время простоя оборудования. Это, в свою очередь, ускоряет обработку данных и способствует более быстрой работе ИИ.
Повышение производительности и энергоэффективности
IBM утверждает, что новая технология увеличивает пропускную способность в 80 раз по сравнению с традиционными электрическими соединениями. Это возможно благодаря использованию оптических волокон, которые могут передавать данные на большие расстояния с минимальными потерями. Каждое волокно, толщина которого примерно в три раза больше человеческого волоса, может передавать терабиты данных в секунду.
Технология также позволяет улучшить плотность взаимосвязей между чипами. В частности, на одном кремниевом фотонном чипе можно разместить в шесть раз больше оптических волокон, что значительно увеличивает его эффективность. Благодаря оптическим каналам, соединяющим чипы, процесс обучения ИИ может быть значительно ускорен. Например, обучение крупных языковых моделей можно сократить с трёх месяцев до всего лишь трех недель.
Преимущества для будущего ИИ
Старший вице-президент и директор по исследованиям IBM Дарио Джил отметил, что с развитием генеративного ИИ, который требует все больших вычислительных мощностей, ЦОД должны адаптироваться и использовать новые технологии, такие как ко-пакетная оптика. Эти инновации открывают новые горизонты для более быстрых и энергоэффективных вычислений, которые смогут удовлетворить требования будущих рабочих нагрузок, связанных с ИИ.
Прототип и успешные испытания
Команда IBM уже разработала прототип нового оптического модуля, который прошел все необходимые стресс-тесты. В частности, компоненты модуля выдержали воздействия высокой влажности и температуры, а также механические нагрузки, что подтверждает его надёжность и готовность к массовому производству.
Кроме того, в рамках эксперимента IBM продемонстрировала технологию полимерных оптических волноводов (PWG) с шагом 18 микрометров, что позволило обеспечить до 128 каналов для передачи данных. Эти достижения уже сделали возможным создание более эффективных и высокоскоростных соединений в ЦОД.
Перспективы развития
IBM продолжит совершенствовать свою оптическую технологию для работы с ИИ и, вероятно, в будущем ее применения будут еще шире, что позволит значительно снизить затраты на вычисления и ускорить процесс обучения ИИ-моделей. Таким образом, компания открывает новую эру в области обработки данных и искусственного интеллекта, где скорость и энергоэффективность станут ключевыми факторами успеха.