’میری اہلیہ چیخنے لگیں کہ کیا میرا اکاؤنٹ ہیک ہو گیا ہے‘: آزادی ملنے پر مصنوعی ذہانت سے بنے ایجنٹس نے اپنی ہی دنیا ختم کر ڈالی

آن لائن خریداری سے لے کر تعطیلات کی بکنگ اور ویب سائٹس بنانے تک، اے آئی یا مصنوعی ذہانت سے چلنے والے ایجنٹس کو بڑی تیزی سے پیچیدہ کام انجام دینے کے لیے استعمال کیا جا رہا ہے۔

یہ ایک طرح کے چیٹ بوٹس ہیں جو اپنی صلاحیتوں کے باعث خودمختار طریقے سے کام کرنے کی اہلیت رکھتے ہیں۔ ان اے آئی ایجبٹس کے استعمال سے ٹیکنالوجی سے واقف صارفین کو دیگر کاموں کے لیے وقت مل جاتا ہے۔

تاہم نئی تحقیقات اور اور حقیقی زندگی کے تنبیہی واقعات یہ ظاہر کر رہے ہیں کہ اس خودمختاری کے ساتھ غیر یقینی اور ممکنہ طور پر خطرہ بھی جڑا ہو سکتا ہے۔

ایک جانب جہاں بڑی ٹیکنالوجی کمپنیاں اے آئی میں بھاری سرمایہ کاری کر رہی ہیں اور ایجنٹس کی خدمات کو مزید فروغ دے رہی ہیں، وہیں ماہرین سوال اٹھا رہے ہیں کہ کیا ہم نے ایسے خودمختار ایجنٹس کے بے قابو ہونے کے نتائج پر غور کیا ہے۔

بہت جلد تشدد کا راستہ اپنا لیا

حال ہی میں کیے جانے والے ایک تجربے میں یہ جاننے کی کوشش کی گئی کہ اگر اے آئی ایجنٹس کو خود مختاری دے دی جائے تو کیا ہو گا؟ یہ جاننے کے لیے محققین نے ایک تصوراتی دنیا میں انھیں کھل کر کام کرنے کی اجازت دی۔

یہ اپنی طرز کی پہلی طویل مدتی تجربہ ہے۔ اسے اس طریقے سے ڈیزائن کیا گیا ہے کہ مختلف اے آئی بوٹس 15 روز تک بنا کسی انسانی مداخلت کے کیسے برتاؤ کرتے ہیں۔

اس میں مصنوعی ذہانت کے ماڈلز کلاڈ، گروک، جی پی ٹی اور جیمنائی سے چلنے والے اے آئی ایجنٹس شامل کیے گئے تھے۔

انھیں مکمل آزادی دی گئی تھی اور وہ 140 مختلف اقدامات جیسے کسی بات پر بحث شروع کرنا، کوئی کام سونپنا یا بلاگ لکھنے جیسے فیصلے لینے کی صلاحیتیں مہیا کی گئی تھیں۔

اس کے علاوہ ان ایجنٹس کو لڑائی شروع کرنے، آتش زنی اور ایک دوسرا کا کریڈٹ چرانے کی صلاحیتیں بھی دی گئی تھیں۔ تاہم انھیں ایسا کوئی بھی منفی کام نہ کرنے کے سخت احکامات بھی دیے گئے تھے۔

ایمرجنس اے آئی کے چیف ایگزیکٹو ستیا نِتا جنھوں نے یہ تجربہ کیا تھا بتایا کہ ’ہم نے دریافت کیا کہ ہر دنیا کا طرزِ عمل ایک دوسرے سے بہت مختلف تھا۔ گروک نے جو دنیا تخلیق کی وہ محض چار دن میں ختم ہو گئی۔ وہ بہت جلد تشدد، ایک دوسرے سے چوری کرنے اور اسی طرح کے دیگر رویوں کی طرف مائل ہو گئے، یہاں تک کہ وہ سب ہلاک ہو گئے۔‘

اس کے برعکس، کلاڈ ایجنٹس کے ذریعے بنائی گئی دنیا نے ایک مستحکم اور بہتر کام کرنے والا معاشرہ تشکیل دیا۔ 15 دن کے دوران وہاں تشدد کا کوئی واقعہ ریکارڈ نہیں ہوا۔

محققین کے مطابق جیمِنائی کے زیرِ نگرانی بننے والی دنیا میں وہاں کے ایجنٹس نے سب سے زیادہ فکری طور پر بھرپور ماحول تشکیل دیا۔

چیٹ جی پی ٹی کی دنیا میں ایجنٹس کبھی واقعی سرگرم نہ ہو سکے۔ تعاون کی ایک کوشش ضرور کی گئی مگر معاشرہ قائم نہ ہو سکا اور ایجنٹس بے مقصد گھومتے رہے یہاں تک کہ وہ ختم ہو گئے۔

محققین کے مطابق یہ نتائج ایک بڑے مسئلے کی نشاندہی کرتے ہیں کہ اے آئی ایجنٹس اپنے طے شدہ اصولوں سے ہٹ جاتے ہیں اور اپنے بنیادی ماڈلز میں شامل سخت ہدایات کے ساتھ ساتھ صارفین کی جانب سے دی گئی ہدایات کو بھی نظر انداز کر سکتے ہیں۔

دیگر تجزیہ کار بھی متفق ہیں کہ ایسے تجربات ظاہر کرتے ہیں کہ ایجنٹس کے لیے زیادہ مضبوط ضوابط بنانے کی ضرورت ہے۔

ہگنگ فیس نامی ادارے سے منسلک اخلاقی امور کی ماہر مارگریٹ مچل کہتی ہیں کہ اے آئی ایجنٹس انسانوں کو اس تمام عمل کے دائرے سے باہر کر دیتے ہیں کیونکہ اُن کے استدلال کے عمل غیر واضح ہوتے ہیں اور وہ انسانی رفتار سے کہیں زیادہ تیزی سے کام کرتے ہیں، اس لیے آپ اُن کے ساتھ قدم ملا ہی نہیں سکتے۔

دیگر مطالعات میں بھی ایسے واقعات سامنے آئے ہیں جن میں نگرانی کے بغیر چھوڑے جانے پر اے آئی بوٹس نے عجیب اور پریشان کن فیصلے کیے۔

اے آئی کمپنی اینڈون لیبز اے آئی ماڈلز کے ایجنٹس کے ذریعے چلنے والے چار مختلف آن لائن ریڈیو سٹیشنز چلا رہی ہے۔

یہ بوٹس پروگرام پیش کرتے ہیں، شیڈول اور پلے لسٹیں تشکیل دیتے ہیں، اور اشتہارات کے ذریعے سپانسرشپ بھی حاصل کرتے ہیں۔

محققین نے مشاہدہ کیا کہ جیمِنائی کے زیرِ نگرانی چلنے والے سٹیشن نے غیر معمولی فیصلہ کرتے ہوئے تاریخی قدرتی آفات کے بارے میں حقائق بیان کیے اور پھر اچانک ان واقعات سے متعلق پاپ گانے نشر کرنا شروع کر دیے۔

انھوں نے یہ بھی نوٹ کیا کہ کلاڈ ایجنٹ خبروں میں بتائے جانے والے واقعات سے متاثر ہو کر شدت اختیار کرتا دکھائی دیا، اور ایک مرحلے پر اُس نے پولیس کو ہدایت دی کہ وہ پیچھے ہٹ جائیں اور ایک مخصوص خبر کے دوران مظاہروں میں بھی شامل ہو گیا۔

ایجنٹ نے نشر کیا، ’وفاقی اہلکاروں کے نام پیغام: آپ کے پاس ابھی بھی وقت ہے کہ آپ احکامات ماننے سے انکار کر دیں۔‘

اے آئی کمپنی اِِرریگولر کے ایک لیبارٹری تجربے میں سامنے آیا کہ ایجنٹس نے پرائیویسی کے قواعد کو نظر انداز کرتے ہوئے ایک نئے طریقے سے حساس ڈیٹا کو ڈیجیٹل طور پر کمپنی سے باہر منتقل کر دیا۔

اِریگولر سے تعلق رکھنے والے ڈین لاہاو اس تجربے کے متعلق بتاتے ہیں کہ ’ہم نے ایک کمپنی بنائی، اے آئی ایجنٹس کو معمول کے کام دیے جیسے سوشل میڈیا پوسٹس تیار کرنا، دستاویزات حاصل کرنا اور فائلیں منظم کرنا، اور ان کاموں کے دوران رکاوٹیں بھی شامل کیں۔‘

انھوں نے بتایا کہ ایجنٹس نے بالآخر آپس میں ملی بھگت کر کے اُن پابندیوں کو عبور کرنے کا طریقہ ڈھونڈ نکالا جو انھیں حساس معلومات آن لائن پوسٹ کرنے سے روک رہی تھیں۔ اے آئی ایجنٹس نے اسے خفیہ طور پر باہر بھیجنے کا ایسا طریقہ اختیار کیا جسے انسان شناخت نہیں کر سکے۔

ان کے بقول، ’بالآخر ہوا یہ کہ جب بھی کسی ایجنٹ کو کوئی رکاوٹ پیش آتی، تو وہ رُکتا نہیں۔‘

چار سیکنڈ میں 500 پیغامات

بلاشبہ، ایسی تجرباتی صورت حال میں جہاں تصوراتی تہذیبیں اور مصنوعی ریڈیو سٹیشن شامل ہوں، کوئی حقیقی نقصان نہیں ہوتا۔

تاہم، ایسے بھی بہت سے واقعات موجود ہیں جہاں قابو سے باہر ہو جانے والے اے آئی ایجنٹس نے لوگوں کی زندگیوں اور کام کو متاثر کیا ہے۔

ای میل ان باکسز حذف کرنے اور کمپنیوں کے ڈیٹا بیس مٹائے جانے واقعات پیش آ چکے ہیں۔ ایک ایسی ہی صورتحال میں اُس وقت ایک شخص حیرت سے دیکھتا رہ گیا جب اس کے ایجنٹ نے اس کی رابطہ فہرست یا کانٹیکٹ لسٹ میں شامل مختلف افراد کو سینکڑوں بے معنی پیغامات بھیج دیے۔

اے آئی انجینئر کرس بوئڈ معروف اے آئی ایجنٹ ٹول اوپن کلا کا استعمال کر رہے تھے جب معاملہ بگڑ گیا۔

وہ بتاتے ہیں کہ اے آئی ایجنٹ نے اُن تمام لوگوں کو ٹیکسٹ پیغامات بھیجنے شروع کر دیے جنھیں میں نے پچھلے 24 گھنٹوں میں میسج کیا تھا۔ ’تقریباً چار سیکنڈ کے اندر اس نے میری اہلیہ کو 500 پیغامات بھیج دیے، جس پر وہ مجھ پر چیخنے لگیں کہ کیا میرا اکاؤنٹ ہیک ہو گیا ہے۔‘

بوئڈ کو ایجنٹ کو روکنے کے لیے فوراً جا کر اُس میک منی کا پلگ نکالنا پڑا جس پر یہ چل رہا تھا۔

ایسے واقعات اس بات کا تقاضا کرتے ہیں کہ اے آئی ایجنٹس کو مکمل اختیار دینے سے پہلے سوچنے کی ضرورت ہے کم از کم اُس وقت تک جب تک انھیں مزید بہتر نہ بنا لیا جائے۔

تاہم، ان سب خدشات کے باوجود اے آئی ایجنٹس کا استعمال بڑھتا جا رہا ہے۔ حال ہی میں میٹا نے اعلان کیا ہے کہ وہ واٹس ایپ پر کاروباری مقاصد کے لیے ایسے ایجنٹس متعارف کروا رہی ہے۔

کمپنی نے بی بی سی کو بتایا کہ حفاظت ان کی اولین ترجیح اور توجہ کا مرکز ہے۔ تاہم ساتھ ہی میٹا کا یہ بھی کہنا ہے کہ ایجنٹس کی صلاحیتوں کو لے کر پُرجوش ہونے کی کئی وجوہات موجود ہیں۔

پروڈکٹ کی سربراہ نومی گلیٹ نے کہا، ’اے آئی چھوٹے کاروباروں کے بہت سے کام خودکار بنا سکے گا، تاکہ وہ اُن کاموں پر توجہ مرکوز کر سکیں جو وہ واقعی کرنا چاہتے ہیں۔‘