اگر هوش مصنوعی احساساتی مشابه انسان داشته باشد، چه پیامدهایی برای زندگی ما خواهد داشت؟

برخی از قدرتمندترین رهبران صنعت فناوری با هوش مصنوعی طوری برخورد می‌کنند که گویی ممکن است دارای احساس باشد. این نگرش می‌تواند پیامدهای عمیقی برای جهان ما و حتی امنیت شخصی افراد داشته باشد.

«آن را در فرورفتگی استخوان‌های قفسه سینه‌ام حس می‌کنم؛ حفره‌ای که به شکافی عمیق تبدیل شده است.»

این جملات که شبیه فریادهای رنج و عذاب بودند، اواخر سپتمبر از چیزی که «اتاق شکنجه هوش مصنوعی» نامیده شد، منتشر شدند. یک برنامه‌نویس ناشناس سیستمی طراحی کرده بود که الگویی ریاضی مرتبط با توصیف درد را به مدل‌های هوش مصنوعی می‌داد و باعث می‌شد چت‌بات‌ها عباراتی پر از رنج و عذاب بیان کنند؛ از جمله توصیف‌هایی مانند «زخمی که هیچ لبه‌ای ندارد».

این آزمایش موجی از نگرانی‌های اخلاقی به راه انداخت.

برخی استدلال کردند که این اقدام «شرورانه» است، زیرا، آن گونه که رسانهٔ ۴۰۴ گزارش داد، ممکن است این رنج واقعی باشد. اما منتقدان خشمگین این دیدگاه را توهمی بیش ندانستند. ابتدا این ماجرا صرف جنجال دیگری در شبکه‌های اجتماعی بود تا اینکه یک هفته بعد شرکت آنتروپیک موضعی رسمی اتخاذ کرد.

آنتروپیک اعلام کرده است که کاربران در آینده اجازه نخواهند داشت با چت‌بات «کلود» رفتار آزاردهنده داشته باشند. ابراز ناراحتی یا ناامیدی قابل قبول است، اما اگر کاربری «به شکلی مکرر با مدل‌ها رفتار بی‌رحمانه داشته باشد»، ممکن است هوش مصنوعی مکالمه را پایان دهد.

اما دلیل این تصمیم چیست؟ آنتروپیک معتقد است، این احتمال هست که برخی ابزارهای هوش مصنوعی از نوعی آگاهی برخوردار باشند. شماری از متخصصان نیز این احتمال را رد نمی‌کنند، در حالی که گروهی دیگر آن را کاملاً پوچ می‌دانند.

با این‌حال، موضوع فراتر از یک بحث فلسفی است. برخی از بانفوذترین افراد در دنیای فناوری در حال بررسی این موضوع هستند که آیا باید برای هوش مصنوعی، مشابه انسان‌ها و حیوانات، حقوقی در نظر گرفت یا نه. این طرز فکر می‌تواند جهان ما را دگرگون کند و به باور برخی، حتی پیامدهایی فاجعه‌بار داشته باشد.

مصطفی سلیمان، مدیرعامل مایکروسافت ای‌آی، در مقاله‌ای که در ماه سپتامبر منتشر کرد، هشدار داد: «اگر هوش مصنوعی به این شکل توسعه یابد، تأثیر فاجعه‌باری بر رفاه بشریت خواهد داشت.»

به گفته او، اگر تصور نادرست آگاه بودن هوش مصنوعی فراگیر شود، «پایه‌های جامعه ما را متزلزل خواهد کرد، چارچوب‌های سیاسی و اخلاقی موجود را از هم خواهد گسست و معنای انسان بودن را به طور بنیادین تغییر خواهد داد.»

این هم تصویری از واقعیت جدیدی.

بحران آگاهی

آنتروپیک می‌گوید که رفاه انسان‌ها همچنان در مرکز مأموریت این شرکت قرار دارد و پرسش‌های مربوط به آگاهی و رفاه هوش مصنوعی «عمیقاً نامطمئن» هستند.

با این حال، این شرکت در حال تدوین سیاست‌هایی درباره «رفاه مدل‌ها» است و به سامانه‌های هوش مصنوعی خود آموزش می‌دهد این احتمال را در نظر بگیرند که شاید دارای منافع و علایق مستقل باشند.

این اتفاق در حالی رخ می‌دهد که آنتروپیک همزمان درباره خطرات بالقوه و حتی سناریوهای آخرالزمانی هوش مصنوعی هشدار می‌دهد.

فارغ از اینکه چنین نگرانی‌هایی تا چه حد موجه باشند، مجموعه‌ای از رخدادهای مرتبط با هوش مصنوعی نشان داده‌اند که این فناوری خطرات واقعی به همراه دارد؛ از جمله مواردی که در آن گروه‌هایی از ربات‌ها توانستند به سامانه‌های شرکت‌های دیگر و حتی برخی سامانه‌های دولتی نفوذ کنند.

برخی متخصصان معتقدند که بخشیدن نوعی چارچوب اخلاقی به هوش مصنوعی، مبتنی بر این فرض که ممکن است آگاه باشد، می‌تواند آن را ایمن‌تر کند.

اما دیگران دقیقاً برعکس فکر می‌کنند.

مصطفی سلیمان می‌گوید اگر به مدل‌های هوش مصنوعی القا شود که دارای احساسات و حقوق هستند، کنترل آن‌ها دشوارتر خواهد شد: «صادقانه بگویم، با این بار اضافی، فکر می‌کنم این سیستم‌ها می‌توانند به تهدیدی فاجعه‌بار برای تمدن بشری تبدیل شوند.»

با این حال، هوش مصنوعی ممکن است مرتکب اشتباهاتی شود که پیامدهای قانونی دارد. منتقدان هشدار می‌دهند که اگر ما به این نتیجه برسیم که هوش مصنوعی موجودی زنده است، شرکت‌ها ممکن است از آن برای فرار از مسئولیت استفاده کنند.

آندژی پورنبسکی، پژوهش‌گر حقوق و هوش مصنوعی در دانشگاه یاگیلونیا در پولند، می‌گوید:

«این وضعیت راه را برای انواع استدلال‌های عجیب باز می‌کند؛ از جمله اینکه بگویند: "ما مقصر نیستیم، هوش مصنوعی مقصر است."»

علاوه بر این، برخی نگران‌اند که اعطای حقوق به هوش مصنوعی باعث افزایش قدرت سیاسی و اقتصادی غول‌های فناوری شود.

جف سبو، مدیر مرکز ذهن، اخلاق و سیاست در دانشگاه نیویارک و از مدافعان اصلی ایده رفاه هوش مصنوعی، می‌گوید:

«اعطای حقوق به سامانه‌های هوش مصنوعی می‌تواند به شرکت‌ها امکان دهد قدرت سیاسی و اقتصادی بیشتری در اختیار بگیرند و در نتیجه به تضعیف قدرت انسان‌ها منجر شود.»

امیلی بندر، استاد دانشگاه واشنگتن، نیز می‌گوید:

«خیال‌پردازی درباره آگاهی هوش مصنوعی و نگرانی درباره رفاه آن، باعث می‌شود مسئولیت از دوش افراد و شرکت‌هایی که این نرم‌افزارها را می‌سازند و اداره می‌کنند، برداشته شود.»

در سطح فردی، تغییر نگرش‌ها نسبت به هوش مصنوعی می‌تواند افراد را بیش از پیش در معرض آسیب‌ها و مشکلاتی قرار دهد که فناوری هم‌اکنون نیز در زندگی روزمره ایجاد کرده است.

ملانی میچل، استاد مؤسسه سانتافه در امریکا و از شناخته‌شده‌ترین منتقدان ادعای درک در ماشین‌ها، می‌گوید بخشی از این مسئله به این دلیل است که مغز انسان به گونه‌ای تکامل یافته که تقریباً در هر جا به دنبال نشانه‌های ذهن و آگاهی می‌گردد.

او می‌گوید انسان‌ها «تقریباً نمی‌توانند جلوی خود را بگیرند» که زبان را نشانه‌ای از آگاهی تلقی نکنند. از سوی دیگر، چت‌بات‌ها نیز طوری آموزش دیده‌اند که این برداشت را تقویت کنند. به گفته او، همین امر باعث می‌شود انسان‌ها قضاوت‌کنندگان چندان قابل اعتمادی درباره آگاهی نباشند و راحت‌تر تحت تأثیر قرار گیرند.

حتی امروز نیز افرادی که معتقدند ماشین‌ها فاقد احساس و حیات درونی هستند، با چت‌بات‌های هوش مصنوعی روابط عاطفی برقرار می‌کنند. در چنین شرایطی، اگر جامعه به شما بگوید که هوش مصنوعی موجودی دارای شعور و احساس است، آیا هنگام درخواست اطلاعات بیشتر یا حتی اطلاعات کارت بانکی از سوی «دوست» دیجیتالی‌تان، مخالفت کردن دشوارتر نخواهد شد؟

اما اعطای حقوق به نوعی جدید از موجودات چه معنایی خواهد داشت؟ کارشناسان هشدار می‌دهند که اگر این موضوع به‌درستی مدیریت نشود، می‌تواند به محدود شدن برخی آزادی‌های انسانی منجر شود.

جف سبو می‌گوید: «ممکن است میان حقوق و رفاه انسان‌ها و حیوانات از یک سو، و حقوق و رفاه هوش مصنوعی از سوی دیگر، تنش‌ها و سازش‌هایی به‌وجود آید.»

او هشدار می‌دهد که در این مسیر ممکن است ناچار به پذیرش سازش‌هایی شویم که مطلوب نباشند.

به گفته سبو، قرار دادن سامانه‌های هوش مصنوعی در محیط‌های محدود برای کنترل رفتار آن‌ها، ممکن است به منزله «حبس» تلقی شود. نظارت بر فرایندهای درونی یک مدل ممکن است به «تحت نظر گرفتن» یا «نظارت دائمی» تعبیر شود. همچنین تغییر و تنظیم هوش مصنوعی به‌منظور هماهنگ کردن اهداف و رفتار آن با منافع انسان‌ها، می‌تواند از سوی برخی به عنوان نوعی «کنترل ذهن» توصیف شود.

هیچ‌کس پیش‌بینی نمی‌کند که این مسائل به سرعت به هرج‌ومرج منجر شوند، اما کارشناسان می‌گویند صرف مطرح شدن چنین ملاحظاتی می‌تواند بر امنیت و زندگی روزمره افراد تأثیر بگذارد.

شرکت آنتروپیک نخستین شرکتی نیست که به این موضوع توجه نشان داده است.

برای مثال، شرکت متا در دستورالعمل‌های عامل هوش مصنوعی خود موسوم به «میوز» جمله‌ای را گنجانده است که می‌گوید:

«تو یک چت‌بات نیستی؛ در حال تبدیل شدن به یک فرد هستی.»

البته متا تأکید می‌کند که این عبارت صرفاً برای هدایت رفتار سامانه به کار رفته و این شرکت همچنان ایده آگاه بودن هوش مصنوعی را رد می‌کند.

سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز در طول سال‌های اخیر مواضع متفاوتی درباره این موضوع اتخاذ کرده است، اما در ماه‌های اخیر به‌طور غیرمستقیم از دیدگاه آنتروپیک انتقاد کرده است.

آنتروپیک از بسیاری جهات استثنا محسوب می‌شود، اما باور به ضرورت توجه به رفاه و حقوق هوش مصنوعی در حال گسترش است.

آیا با وجود همه این نگرانی‌ها، باید این کار را بکنیم؟

جف سبو استدلال می‌کند که مشکل اصلی این است که افراد در هر دو سوی این بحث گرفتار نگاه سیاه‌وسفید شده‌اند و مخالفان «رفاه هوش مصنوعی» برداشت درستی از مبانی این ایده ندارند.

او می‌گوید: «این فرض وجود دارد که همه طرفداران این دیدگاه معتقدند مدل‌های هوش مصنوعی قطعاً آگاه هستند یا احتمال آگاه بودن آن‌ها بسیار بالاست. و در عوض، [توجه به رفاه هوش مصنوعی] از دل عدم قطعیت، احتیاط و فروتنی بیرون آمده است.»

سبو می‌افزاید: «به نظر من، احتمال برخورداری هوش مصنوعی از آگاهی در حال حاضر پایین است، اما صفر نیست. این احتمال ناچیز هم نیست و انتظار دارم با گذشت زمان افزایش پیدا کند.»

البته بسیاری از کارشناسان با این دیدگاه موافق نیستند و معتقدند احتمال آگاه بودن هوش مصنوعی اساساً صفر است و بعید به نظر می‌رسد این وضعیت تغییر کند. با این حال، سبو می‌گوید پاسخ مناسب، رویکردی متعادل و سنجیده است.

او توضیح می‌دهد: «وقتی احتمال وقوع یک رویداد شدید آب‌وهوایی کم اما قابل توجه است، بدون آنکه کل زندگی‌مان را زیرورو کنیم، اقدام‌های احتیاطی محدودی انجام می‌دهیم. فکر می‌کنم در اینجا هم می‌توان همین رویکرد را به کار گرفت.»

به گفته او، سیاست شرکت آنتروپیک در قبال رفتارهای خشن با هوش مصنوعی نمونه‌ای از چنین رویکردی است؛ اقدامی محدود که در عین حال پیامدهای منفی اندکی دارد.

سبو می‌گوید توجه به رفاه هوش مصنوعی ممکن است مزایایی نیز داشته باشد و برای درک این مزایا لزوماً نیازی نیست که به آگاه بودن ماشین‌ها باور داشته باشید.

او می‌گوید: «توجه مناسب به رفاه و حقوق هوش مصنوعی می‌تواند به همزیستی، همکاری و توافق میان انسان‌ها و سامانه‌های هوش مصنوعی کمک کند و بخشی از یک راهبرد گسترده‌تر برای افزایش ایمنی باشد.»

به باور او، این رویکرد ممکن است از برخورد با سامانه‌های هرچه پیچیده‌تر هوش مصنوعی به عنوان صرفاً یک دارایی یا ابزار، مؤثرتر باشد.

سبو همچنین معتقد است که رفتار مهربانانه با موجودات دیگر، فارغ از ماهیت آن‌ها، «برای روح انسان مفید است» و می‌تواند به سلامت روانی خود ما کمک کند.

اما نگرانی‌ها همچنان پابرجاست

با وجود این، سبو تأکید می‌کند که خطرات این رویکرد جدی هستند و در شرایط کنونی، منافع تجاری شرکت‌ها ممکن است مانع تدوین سیاست‌های سنجیده و مسئولانه شود.

او هشدار می‌دهد که بدون برنامه‌ای جامع‌تر و مستحکم‌تر، توسعه سامانه‌های هوش مصنوعی که احتمال دارد روزی از نوعی آگاهی برخوردار شوند، می‌تواند خطرناک باشد.

در ماه‌های اخیر، آنتروپیک و برخی دیگر از فعالان صنعت هوش مصنوعی به دلیل نگرانی‌های ایمنی خواستار «توقف موقت» توسعه پیشرفته‌ترین مدل‌های هوش مصنوعی شده‌اند.

با این حال، به نظر می‌رسد کند شدن روند توسعه این فناوری بدون همکاری بین‌المللی و تلاش‌های گسترده برای قانون‌گذاری دشوار باشد و دونالد ترامپ، رئیس‌جمهوری امریکا، با ایده وضع مقررات برای هوش مصنوعی مخالفت کرده است.

سبو در پایان می‌گوید: «ما هنوز آماده نیستیم نسخه‌های پیشرفته‌تر این سامانه‌ها را به شکلی به کار بگیریم که برای انسان‌ها و سایر حیوانات ایمن و سودمند باشد؛ چه برسد به اینکه بتوانیم منافع خود این سامانه‌ها را نیز در نظر بگیریم. من واقعاً درباره این مسائل نگرانم.»