Баг может иметь разрушительные последствия
Исследователь безопасности Trail of Bits обнаружил уязвимость, которая может украсть "ключевые данные" из встроенной памяти. Под угрозой графические процессоры на всех устройствах – смартфонах, ПК, ноутбуках и других.
Смотрите также Искусственный интеллект Galaxy AI: какие новые возможности получат смартфоны Samsung
Уязвимость получила название "LeftoverLocals", и вместо того, чтобы быть нацеленной на приложения конечного пользователя, она проникает в графические процессоры, используемые в больших языковых моделях (LLM) и машинном обучении (ML) самих компаний. Это влечет за собой значительные последствия, поскольку обучение моделей предполагает использование конфиденциальных данных.
LeftoverLocals отслеживают эксперты из Университета Карнеги-Меллона, и говорят, что информацией уже поделились крупнейшие производители графических процессоров, которые пострадали от нее, а это Apple, AMD, Intel, Qualcomm и Imagination.
Было обнаружено, что LeftoverLocals может вызвать утечку около 5,5 мегабайта данных за один вызов графического процессора на AMD Radeon RX 7900 XT при запуске модели с семью миллиардами параметров. По данным Trail of Bits, скорость утечки данных достаточна даже для воспроизведения полной модели, поэтому уязвимость представляет высокий риск и может оказаться разрушительной для отдельных компаний, особенно тех, что занимаются подготовкой LLM.
LeftoverLocals зависит от одной вещи, а именно от того, как GPU изолирует свою память, которая полностью отличается от фреймворка CPU (центрального процессора). Таким образом, злоумышленник, получивший доступ через программный интерфейс, может украсть данные памяти внутри только GPU.