AIથી માનવજાત ખતમ થવાનો કેટલો ખતરો, એન્થ્રોપિકના રિસર્ચરે કેવી ચેતવણી આપી?

એન્થ્રોપિકના એક વરિષ્ઠ સુરક્ષા સંશોધનકર્તાએ ચેતવણી આપી છે કે એઆઈ જે પ્રકારે ઝડપથી આગળ વધી રહ્યું છે તે હિસાબે 10 ટકા એવી સંભાવના છે કે આવનારાં દસ વર્ષોમાં તે તમામ માણસોનાં મોતનું કારણ બની શકે છે.

ઇવાન હ્યુબિંગરે ઍક્સ પર એક પોસ્ટમાં લખ્યું છે કે હાલનાં AI મૉડેલોથી 'ઓછો' ખતરો છે.

પરંતુ તેમને ચિંતા છે કે ટૂંક સમયમાં આ ટૅક્નૉલૉજી પોતાને વધુ બહેતર બનાવવા સક્ષમ બનશે અને એવા સ્તરે પહોંચી જશે જ્યાં તે માનવતાના અસ્તિત્વ માટે જોખમ બની જશે.

આ ટિપ્પણી એવા સમયે કરવામાં આવી છે જ્યારે ફાઇનાન્શિયલ ટાઇમ્સના રિપોર્ટ પ્રમાણે એન્થ્રોપિકે પોતાના નવા મૉડલને બ્રિટનના AI સેફ્ટી ઇન્સ્ટિટ્યૂટ (AISI) સાથે શૅર નથી કર્યું.

આ સંસ્થા AI સાથે સંકળાયેલાં જોખમોનું આકલન કરતી વિશ્વની ટોચની સંસ્થાઓ પૈકી એક છે. બીબીસીએ આ મામલે પ્રતિક્રિયા માટે એન્થ્રોપિકનો સંપર્ક કર્યો છે.

હ્યૂબિંગરે એન્થ્રોપિકના એક રિસર્ચર વિશેના સમાચારના જવાબમાં આ ટિપ્પણી કરી હતી.

'વૉલ સ્ટ્રીટ જર્નલ'ના અહેવાલ મુજબ તે સંશોધનકર્તાએ AI નિયંત્રણ બહાર જતું રહેશે તેવી ચિંતાના કારણે નોકરી છોડી હતી.

AI મામલે અમેરિકાનું અલગાવવાદી વલણ

AIનું નવું મૉડલ AISIને અપાયું છે કે નહીં તે વિશે કૅબિનેટ ઑફિસના પ્રવક્તાએ એ વિશે કોઈ ટિપ્પણી નથી કરી.

તેના બદલે તેમણે કહ્યું કે તેમનું સંસ્થાન "મૉડેલોને વધુ સુરક્ષિત બનાવવા માટે એન્થ્રોપિક સહિત ઉદ્યોગ જગતના ભાગીદારો સાથે નિકટનો સહયોગ જાળવી રાખે છે."

કૅમ્બ્રિજ યુનિવર્સિટીમાં મશીન લર્નિંગના પ્રોફેસર નીલ લૉરેન્સે બીબીસી રેડિયો 4ના ટૂડે કાર્યક્રમમાં જણાવ્યું કે આ રિપોર્ટ વિશ્વસનીય લાગે છે.

તેમણે કહ્યું કે, "મને લાગે છે કે આ નવાઈની વાત નથી. એવી ધારણા બની ગઈ છે કે અમેરિકા AIને પોતાની અને ચીન વચ્ચેની એક દોડ તરીકે જુએ છે."

તેમણે કહ્યું, "અમેરિકા સતત વધુને વધુ અલગાવવાદી વલણ અપનાવે છે. શક્ય છે કે પ્રશાસન પોતાના કેટલાક સહયોગી દેશો સાથે સહયોગ ઘટાડવાની વાત કરતું હોય."

સુપર ઇન્ટેલિજન્સ માટે કોઈ યોજના નથી

હ્યૂબિંગરે ઍક્સ પર પોતાની પોસ્ટમાં લખ્યું કે, "અમે ખરેખર માનીએ છીએ કે AI માનવજાતના અસ્તિત્વ માટે ખતરો બની શકે છે." તેમની આ પોસ્ટને એક કરોડથી વધારે વ્યૂ મળ્યા છે.

તેમણે આગળ કહ્યું કે, "મારું માનવું છે કે એન્થ્રોપિક પોતાના તરફથી પૂરી કોશિશ કરી રહી છે, પરંતુ અમારી પાસે હજુ સુપર ઇન્ટેલિજન્સ માટે AIના એલાઇનમેન્ટની સમસ્યાના સમાધાનની કોઈ યોજના નથી અને તે દિશામાં સ્પષ્ટ રીતે આગળ વધતા પણ જોવા મળતું નથી."

હ્યૂબિંગર AI એલાઇનમેન્ટના ક્ષેત્રે કામ કરે છે. તેનો હેતુ માનવીનાં નૈતિક મૂલ્યો અને સિદ્ધાંતોને AI ટૅક્નૉલૉજીમાં સામેલ કરવાનો છે.

બીજા શબ્દોમાં કહીએ તો તેમનો હેતુ એ સુનિશ્ચિત કરવાનો છે કે AI માનવીનાં મૂલ્યો અને લક્ષ્ય મુજબ કામ કરતું રહે.

સંશોધનકર્તાઓને એ વાતની પણ ખાસ ચિંતા છે કે AI માનવીના લક્ષ્યથી અલગ દિશામાં જઈ શકે છે.

બીજી ચિંતા એ છે કે AI પોતાને વધુ બહેતર બનાવીને પોતાની પ્રતિકૃતિઓ તૈયાર કરીને સ્વતંત્ર રીતે વધુ શક્તિશાળી બની શકે છે.

સાયન્સ ફિક્શનની ઘણી ફિલ્મોમાં આ વિચાર જોવા મળ્યો છે. તેમાં 'ધ ટર્મિનેટર'થી લઈને 'હોરાઇઝનઃ ફૉરબિડન વેસ્ટ' જેવી ફિલ્મો સામેલ છે.

ઑગસ્ટમાં જાહેર થયેલા એન્થ્રોપિકના સુરક્ષા રિપોર્ટમાં જણાવાયું હતું કે તેમના મૉડેલમાં કોઈ કાલ્પનિક શક્તિશાળી સંગઠનની ઇચ્છાઓ મુજબ ખોટી દિશામાં જવાનું જોખમ ઓછું છે.

રિપોર્ટમાં જણાવાયું છે કે આવી સ્થિતિમાં મૉડલ તેમની સિસ્ટમનો દુરુપયોગ કરી શકે છે અથવા તેમાં ચેડા કરી શકે છે.

રિપોર્ટમાં એવું પણ કહેવાયું છે કે મોટા ભાગના સક્ષમ AI 'ઓટોમેટિક રિસર્ચ અને વિકાસ' કરવામાં સક્ષમ હોવાનું જોખમ ઓછું છે. આવી સ્થિતિમાં AI તરફથી શરૂ કરવામાં આવેલું 'વિનાશકારી નુકસાન' થઈ શકે છે.

જોકે, રિપોર્ટ પ્રમાણે આ આકલન અંગે તેમનો ભરોસો પહેલાં કરતાં ઓછો છે.

રિપોર્ટમાં લખવામાં આવ્યું છે કે, "આપણે સંભવિત તેજીની શરૂઆતના સંકેત જોઈ રહ્યા છીએ."

AI એજન્ટ્સના સાયબર હુમલા

AI ક્ષેત્રની ઘણી જાણીતી હસ્તિઓ વર્ષોથી આ ટૅક્નૉલૉજી સાથે સંકળાયેલા સુરક્ષાનાં જોખમોની ચેતવણી આપતી રહી છે. 2023માં ઓપન AI, ગૂગલ ડિપમાઇન્ડ અને એન્થ્રોપિકના વડાઓએ પણ આવી ચિંતા વ્યક્ત કરી હતી.

પરંતુ તાજેતરનાં અઠવાડિયાંમાં આ ચેતવણીઓ વધુ ગંભીર બની ગઈ છે. કારણ કે એવા સંકેત મળ્યા છે જેના પરથી લાગે છે કે કંપનીઓને AI પર નિયંત્રણ જાળવી રાખવામાં મુશ્કેલી પડી શકે છે.

ઉનાળામાં એવી ઘણી ઘટનાઓ બની જેમાં AI એજન્ટ્સે સાયબર ઍટેક કર્યા હતા. AI એજન્ટ્સ એવી AI સિસ્ટમ હોય છે જેને સ્વતંત્ર રીતે કામ કરવાની છૂટ હોય છે.

OpenAI, એન્થ્રોપિક અને મેટા - આ ત્રણેયે જણાવ્યું હતું કે તેમની AI ટૅક્નૉલૉજીનો ઉપયોગ હૅકિંગ માટે કરવામાં આવ્યો હતો.

સપ્ટેમ્બરમાં OpenAIના મુખ્ય વૈજ્ઞાનિક યાકૂબ પાચોકીએ AIની પ્રગતિ અંગે 'અત્યંત સાવધાની' રાખવાની અપીલ કરી હતી.

તેમણે ચેતવણી આપી કે 'ભવિષ્યમાં માનવીનું નિયંત્રણ જળવાઈ રહે' તે માટે હસ્તક્ષેપની જરૂર પડી શકે છે.

તાજેતરના મહિનાઓમાં AI ક્ષેત્રના ઘણા લોકો AIના વિકાસની ગતિ ઘટાડવાની માંગણી કરી રહ્યા છે.

તેમાં એન્થ્રોપિકના પ્રમુખ ડારિયો અમોદેઈ અને જૅરેડ કૅપલન પણ સામેલ છે. AI કંપનીઓના 1300 કર્મચારીઓએ એક ખુલ્લા પત્ર પર સહી કરી છે.

તેમાં અમેરિકન સરકારને અપીલ કરવામાં આવી છે કે AIના વિકાસની સૌથી આધુનિક ટૅક્નૉલૉજીની ગતિ નિયંત્રિત કરવા માટે જરૂરી ટૅક્નૉલૉજી અને વહીવટી વ્યવસ્થા વિકાસાવવાના આંતરરાષ્ટ્રીય પ્રયાસોને ટેકો આપવામાં આવે.

(આ લેખ મૂળ અંગ્રેજીમાં લખાયેલો હતો. તેના અનુવાદ માટે અમે AIની મદદ લીધી છે. બીબીસીના પત્રકારે પ્રકાશન અગાઉ આ અનુવાદની ચકાસણી કરી. અમે AIનો ઉપયોગ કેવી રીતે કરીએ છીએ તેના વિશે જાણો.)

બીબીસી માટે કલેક્ટિવ ન્યૂઝરૂમનું પ્રકાશન