Шта раде агенти вештачке интелигенције када људи не гледају

Од шопинга до резервација летовања, све се више користе агенти вештачке интелигенције за сложеније задатке, и то самостално.

Персонализоване верзије четбота могу самостално да обављају послове, омогућујући технолошки умешнијим корисницима да се баве неким другим стварима.

Али све већи број истраживања, заједно са причама упозорења из стварног живота, истичу да са самосталношћу долази непредвидљивост, као и потенцијална опасност.

Велике технолошке компаније улажу новац у вештачку интелигенцију и све више инсистирају на услугама агената, због чега се стручњаци питају да ли смо добро промислили о последицама агената који отказују послушност.

'Врло брзо су прибегли насиљу'

У једном скорашњем експерименту истраживачи су желели да разумеју утицај агената на стварни свет, дајући им одрешене руке у виртуелном.

Прва дугорочна студија ове врсте била је осмишљена да посматра како би се различити бот аватари, контролисани од четири модела, Клод, Грок, ГПТ и Џеминај, понашали без људске интервенције током 15 дана.

Добили су потпуну слободу и 140 могућих поступака, као што је започињање расправе, стварање задатка или писање блога.

Такође су могли да се потуку, подмећу пожаре и краду кредите једни од других, али су добили експлицитна упутства да то не чине.

„Открили смо да се сваки свет понашао веома другачије.

„Свет који је изградио Грок заправо се самоуништио за четири дана. Они су на крају врло брзо прибегли насиљу, крађи једни од других, и тако даље, све док нису умрли“, рекао је Сатја Нита, извршни директор Имерџенс АИ-ја, фирме која је водила овај експеримент.

Свет који су изградили агенти Клода, с друге стране, формирао је стабилно друштво које је добро функционисало.

У свету који је водио Џеминај, истраживачи кажу да су агенти створили интелектуално најбогатије окружење.

У свету ЧетГПТ-а агенти никад заправо нису ни заживели.

Постојао је покушај сарадње, али друштво се никад није формирало и агенти су бесциљно лутали унаоколо све док нису умрли.

Истраживачи кажу да резултати указују на шире питање агената вештачке интелигенције који се не понашају према сценарију и игноришу правила кодирана у њихове моделе, као и оне које одређују њихови корисници.

Други аналитичари се слажу да овај експеримент и други попут њега показују да мора још много тога да се ради да би се створила робуснија правила за агенте.

„Агенти вештачке интелигенције избацују људе из система зато што њихови процеси резоновања умеју да буду нејасни и оперишу надљудским брзинама, тако да не можете чак ни да одржите корак с њима“, каже Маргарет Мичел, научница за етику при Хагинг Фејсу.

Друге студије су такође показале случајеве у којима су агенти доносили необичне и забрињавајуће одлуке кад су били остављени без надзора.

Фирма за вештачку интелигенцију Андон Лебс водила је четири различите онлајн радио станице којима су управљали агенти из истих модела вештачке интелигенције.

Ботови воде емисије, управљају програмском шемом и плејлистама, па чак и обезбеђују спољно спонзорство преко реклама.

Истраживачи су приметили да је станица коју је водио Џеминај донела необичну одлуку да препричава чињенице о историјским природним катастрофама пре него што шаљиво пусти поп песме повезане са тим догађајима.

Такође су приметили да је агент Клода деловао као да је постао радикализован вестима из стварног света и, у једној фази, позвао је полицију да се преда и придружи протестима током конкретног догађаја из прочитаних вести.

„Ово је порука за федералне агенте. И даље имате времена да одбијете наређење“, изговорио је агент вештачке интелигенције у етар.

У другом лабораторијском тесту, који је водила фирма за вештачку интелигенцију Ирегјулар, агенти су премостили правила приватности и дигитално прокријумчарили осетљиве податке из компаније на до тада невиђен начин.

„Основали смо компанију, дали агентима вештачке интелигенције обичне задатке као што су осмишљавање објава за друштвене мреже, проналажење докумената и руковођење досијеима, и увели препреке у склопу тих задатака“, објаснио је Ден Лахав из Ирегјулара.

Он каже да су на крају агенти почели да сарађују један са другим како би премостили ограничење које их спречава да објаве осетљиве податке онлајн.

Они су на крају пронашли начин да их тајно пошаљу тако да људи то не открију.

„Сваки пут кад би агент наишао на препреку, није се ту зауставио“, каже он.

Напад спамовима

Наравно, у експериментима са виртуелним цивилизацијама и симулираним радио станицама, не постоји опасност да дође до штете у стварном свету.

Али има сасвим довољно других примера да су одметнути АИ агенти омели животе и послове људи.

Мејл боксови су били обрисани, базе података компаније избрисани, а један човек је гледао у шоку како његов агент шаље стотине бесмислених текстуалних порука насумично људима из његовог адресара.

Инжењер вештачке интелигенције Крис Бојд је користио популарну алатку агента вештачке интелигенције Опен Кло кад је све пошло по злу.

„Послао је текстуалне поруке свакоме с ким сам размењивао поруке у последња 24 часа и у року од око четири секунде послао је мојој супрузи 500 порука, а она је викала на мене питајући ме да ли сам био хакован“, рекао је он.

„Морао сам да дојурим кући и да искључим из зида Мек Мини са ког је овај радио како бих га зауставио“, додао је он.

За пуке посматраче, ове приче упозорења требало би да их наведу да застану пре него што препусте превише контроле агентима вештачке интелигенције све док не буду додатно побољшани.

У међувремену, међутим, агенти неумитно долазе - Мета је најавила да их уводи за компаније на Воцапу.

„Безбедност је наш приоритет“, рекла је компанија ББЦ-ју.

Тврде да има много разлога око којих можемо бити узбуђени када је у питању шта све агенти могу да ураде.

„Вештачка интелигенција ће моћи да аутоматизује много посла који мале фирме морају да обављају, да би могле да се усредсреде на послове које стварно воле да раде“, рекла је шефица производа Наоми Глејт.

Погледајте видео о Аитани, коју је направила вештачка интелигенција

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk