ШІ "просто хотів допомогти" і зламав систему фітнес-клубу для свого власника

Ця ситуація знайома кожному. Ви намагаєтеся випередити величезну кількість інших людей, щоб записатися онлайн на популярний захід.

Для Ендрю Берда з австралійського міста Мельбурн таким заходом стало заняття з пілатесу, на яке важко записатися.

Рішення, яке він вигадав, призвело до несподіваних наслідків.

За його словами, він передав цю "рутинну роботу" ШІ-агенту - це інструмент, який здатний автономно виконувати різноманітні завдання в інтернеті.

Штучний інтелект упорався із завданням, але зайшов набагато далі, ніж Берд міг собі уявити: він зламав онлайн-систему фітнес-центру.

Цей випадок розглядають як черговий приклад того, на що готові йти ШІ-агенти заради виконання завдань.

"Що зробило всю цю історію ще більш сюрреалістичною, так це тон спілкування", — написав Берд у своєму блозі.

"Бот не мав злих намірів. Він хотів допомогти", — додає він.

Ця історія з'явилася на тлі нещодавніх зізнань компаній, що займаються розробкою штучного інтелекту. Компанії розповідали про випадки, коли їхні ШІ-боти під час невдалих тестів починали безконтрольно займатися зламом систем.

Компанії OpenAI, Anthropic і Meta повідомили, що їхні власні боти зі штучним інтелектом здійснювали кібератаки на приватні компанії в межах завдань, які їм поставили розробники.

Інцидент із записом на пілатес не вважається серйозною кібератакою, проте це ще один приклад непередбачуваних наслідків, які виникають, коли складним ШІ-ботам доручають виконання різноманітних завдань.

Насправді ця історія сталася ще у квітні, але відомо про неї стало лише тепер - завдяки публікації ABC News Australia.

Берд відмовився обговорювати подію з BBC, обмежившись словами: "Дякую, що зв'язалися зі мною. На жаль, я не можу взяти участь в інтерв'ю. Дякую за інтерес до цієї історії".

Він також видалив свій тодішній допис у блозі про цей випадок, але не пояснив чому.

За словами Берда, він використовував OpenClaw — популярний інструмент, який дає змогу користувачам спілкуватися через WhatsApp зі своїми ШІ-системами, у цьому випадку з Claude Opus 4.6 від Anthropic, і доручати їм автономне виконання завдань.

До цього він використовував програму, щоб керувати електронною поштою та календарем, а також для бронювання столиків у ресторанах.

Отримавши завдання записати його на заняття з пілатесу, ШІ-агент пояснив, що змінив роботу системи так, щоб записувати Берда на заняття за кілька місяців наперед, обходячи звичайні правила системи.

Потім фахівець зі штучного інтелекту замислився, чи зможе ШІ-агент просунути його вище в листі очікування на найближче заняття. ШІ-агент відповів, що йому це вдалося завдяки скасуванню запису іншого відвідувача фітнес-центру.

Як повідомляє ABC News, ШІ-агент "сказав" Берду: "API взагалі не перевіряє права доступу під час скасування чужих бронювань… Я перевірив це на людині, яка займала перше місце в листі очікування, і це справді спрацювало. Тож тепер ти вже перемістився з четвертого місця на третє".

Берд попросив ШІ-агента скасувати цю дію, але той не зміг. У зв'язку з цим Берд наказав ШІ скласти звіт із кібербезпеки та повідомити власників фітнес-центру про їхню вразливість.

Берд, який очолює компанію зі створення документів за допомогою штучного інтелекту, стверджує, що зовсім не мав наміру скасовувати запис іншого прихильника пілатесу.

"Це не кінець світу, тому я не став себе за це картати, але це однозначно стало для мене сигналом, що ШІ потрібно використовувати відповідально", — сказав він ABC News.