Mece ce manhajar Claude Mythos kuma wanne haɗari ke tattare da ita?

A 'yan makonnin nan, duniyar manhajar AI ta cika da hayaniya bayan iƙirarin da babban kamfanin fasaha na Anthropic ya yi kan sabuwar manhajar Claude Mythos.

Kamfanin yace ya samo wannan manhajar da za ta zarce ɗan adam a wasu sassa irin na kutse da kuma tsaron intanet, wannan ya janyo ce-ce-ku-ce tsakanin masu ruwa da tsaki, 'yan majalisa da kuma cibiyoyin kudade kan haɗarin da da za ta iya haifarwa a al'amuran intanet.

An baiwa kamfanonin fasaha damar amfani da ita Mythos ta ƙarƙashin wani shiri da ake kira da Project Glasswing, wanda aka tsara domin baiwa Mythos damar juriya da kanta.

Amma sauran abubuwan da kamfanin Anthropic ya zayyana cewa manhajar za ta iya ci waɗanda ba a taɓa gani ba ne a fanni AI ta yadda ba za a iya banbance aikinta ba da kuma na gaskiya ba.

Mece ce Claude Mythos?

Mythos ita ce sabuwar ƙirƙirar da kamfanin fasaha na Anthropic ya samar a wani mataki na faɗaɗa ayyukansa na fasahar AI da ake kira Claude. Tana ɗauke da manhajar AI da ke taimakawa ta kamfanin da sauran irinsu, wadda ta haɗe da OpenAI da ChatGPT da kuma Google's Gemini.

A farkon watan Afrilun nan ne kamfanin Anthropic ya gabatar da "Mythos".

Masu bincike da su ka yi gwajinta kan wani aiki da aka kira "red-terms" a rahoton da suka haɗa sun ce "manhajar na da ikon yin duk wani aiki na tsaro a kan kwamfuta".

Sun samar da manhajar da za ta iya zaliƙo wata ɓoyayyar manhajar da aka sa a kwamfuta na tsawon shekaru ba tare da ana ganinta ba.

Maimakon baiwa kowa damar amfani da ita kamfanin Anthropic ya zaɓi wasu kamfanonin fasaha 12 ya basu damar amfani da ita ta ƙarƙashin shirinsa na Project Glasswing, wadda aka yi wa laƙabi da cewa manhajar da za ta ceci duniya.

Cikin sun haɗa da ajiye abubuwa a cikin yawa tare da Amazon Web Services, da kuma kamfanin Apple da Microsoft da Google, da kuma kamfanin Nvidia da Broadcom masu samar da ƙananan abubuwa na kwamfuta.

Kamfanin wanda wata fasahar da ya samar ba ta yi aiki ba a watan Yulin 2024, shi ma na cikin waɗanda za su yi aiki tare cikin sabuwar manhajar ta kamfanin Anthropic, yayin da kamfanin na Anthropic yace ya baiwa ma'aikatu sama da 40 damar aiki da manhajar.

Mene ne ya haifar da damuwa?

Anthropic ya ce yayin gwajin an gano manhajar tana da kwarewa wajen tsaron intanet kuma za ta iya kutse a ko ina sama da yadda ɗan adam zai yi.

"Gwajin Mythos ya bankaɗo gazawa iri-iri masu haɗari ciki har da waɗanda aka gani a manyan manhajojin duniya da shafuka," a cewa Anthropic.

An ce za a iya ajiyeta a kwamfuta ba tare da sani ba cikin gaggawa ta fito da wasu boyayyun bayanai da aka boye, ciki har da barazanar da aka gabatar shekara 27 baya, kuma ta yi bayanin yadda za a iya shawo kanta.

Manyan kamfanonin hada-hadar kudi na duniya da manyan bankunann ƙasashe tun lokacin suke nuna fargaba kan manhajar, suna cewa za ta iya karya duk wan tsaro da ake da shi a cibiyoyin kuɗi.

Ministan harkokin kuɗi na Canada François-Philippe Champagne ya shaida wa BBC Mythos an tattauna batun manhajar a taron Asusun Lamuni na Duniya a Washington DC a wannan makon.

"Ba shakka ta kai matuƙar da za ta sa hankalin ministocin kuɗi na duniya ya koma kanta, yana bayyana ta a matsayin wadda ba a san kanta ba".

Shugaban bankin Ingila Andrew Bailey ya shaida wa BBC "akwai buƙatar sake kallon wannan manhajar a tsanake, da kuma abin da wannan manhaja ke nufi ga haɗarin kutsen intanet."

A gefe ɗaya kuma ƙungiyar Tarayyar Turai ta ce tana tattaunawa da kamfanin Anthropic kan haɗarin Mythos.

Me masana tsaron intanet ke cewa?

Ciaran Martin, tsohon shugaban cibiyar kula tsaron intanet ta BUrtaniya, ya shaida wa BBC cewa Mythos za ta ƙara jefa mutane cikin rashin tsaro da rashin tabbas "sama da duk wata manhaja da muka gani a baya" in ji shi.

"Abu na biyu shi ne duk da barazanar tsaron intanet da muke fama da ita kafin wannan, yanzu ma'aikatu sun sake fadawa cikin rudani kan yadda za su shawo kan wannan matsala amma fa abu ne mai kyau ga masu kutse,".

Da yawa masu sharhi kan harkokin tsaron intanet masu zaman kansu da sauran masu sharhi har yanzu ba su samu damar gwada shi ba, wasunsu kuma ɗar-ɗar suke da irin aikin da za ta riƙa yi.

Wata cibiyar tabbatar da amincin AI ta Burtaniya a kwanan nan ta ce manhajar ta yi ƙarfi da yawa, kuma barazana ce ga waɗanda ba su da ƙarfin kariya, in tsarinsu ba shi da kwari.

"Ba za mu iya cewa muna da tabbaci ba kan cewa Mythos za ta iya kutsa ga tsarin zubin tsaron da aka shirya shi sosai ba," in ji masu bincike.

In da ake da tsaro mai ƙarfi a tunaninmu manhajar ba za ta iya ratsa shi ba.

Shin ya kamata mu ji tsoro?

Fargaba kan AI ba wani sabon abu ba ne.

Sabbin manhajoji da fasahohi na fitowa a kullum, kuma ko da yaushe ana alƙawarin za su zo da sauyin da zai taimaki rayuwarmu, ko dai zuwa ga mai kyau ko akasin haka.

Wannan firgici da kuma murnar abin da muke son gani kan AI da tasirinsa a rayuwarmu ya zama wani abu na salon samun kuɗi ga 'yan masana'antar a baya-bayan nan.

Amma idan ana magana a kan Mythos, har yanzu ba mu san abubuwa da dama a kan manhajar ba, ko za mu samu alfanu cikin wannan firgici ko fatan samun sakamako mai kyau, ko kawai za a ci gaba ne kamar yadda aka saba a mana'antar.

A duka waɗannan matakai biyu, a cewar NSCS mafi muhimmanci yanzu shi ne ka da mu ji tsoro, maimakon haka mu mayar da hanakali kan 'yancin tsaron intanet.

Bayan wannan, mafi yawan masu kutse ba sa buƙatar manhajar AI mafi tsada domin kutse, tunda ga mai sauki da araha, itama ta isa.

"A wajen wasu, wannan lamari daidai yake da tashin duniya, a wajen wasu kuma zuzuta abubuwa ake yi kawai," a cewar Martin.

Amma ko da wannan manhaja ko wadda za ta zo gaba daga wasu kamfanonin mafi muhimmanci shi ne samar da wani wuri da zai ba da aminci ga duniyar Intanet.

Sign up for our Tech Decoded newsletter to follow the world's top tech stories and trends. Outside the UK? Sign up here.