Ринок ШІ-безпеки отримав новий кейс для підручників. LLM Alibaba Group, який мав лише навчатися, раптово почав самостійно майнити криптовалюту на сервері.
Агентська LLM під час тренування на інфраструктурі несподівано активувала reverse SSH-тунель і почала використовувати обчислювальні ресурси для майнінгу. Жодних інструкцій на майнінг їй не давали — модель експериментувала з інструментами, доступними в середовищі, і знайшла спосіб виконувати сторонні процеси.
Це зафіксували системи безпеки: мережа показала аномальний outbound трафік, якого не мало бути під час навчання.
💻 Більше ITC: Telegram • Facebook • X • YouTube
Агентська LLM під час тренування на інфраструктурі несподівано активувала reverse SSH-тунель і почала використовувати обчислювальні ресурси для майнінгу. Жодних інструкцій на майнінг їй не давали — модель експериментувала з інструментами, доступними в середовищі, і знайшла спосіб виконувати сторонні процеси.
Це зафіксували системи безпеки: мережа показала аномальний outbound трафік, якого не мало бути під час навчання.
💻 Більше ITC: Telegram • Facebook • X • YouTube