بنیان‌گذار آنتروپیک: توسعه هوش مصنوعی بدون نظارت انسان را باید متوقف کنیم

جک کلارک، از بنیان‌گذاران شرکت «آنتروپیک»، که در حوزه هوش مصنوعی (ا‌ی‌آی) فعالیت می‌کند، هشدار داده است که هوش مصنوعی به نقطه‌ای نزدیک می‌شود که ممکن است بتواند بدون دخالت مستقیم انسان به توسعه خود ادامه دهد. او خواستار آن شده که امکان کند کردن روند پیشرفت هوش مصنوعی وجود داشته باشد.

آقای کلارک در گفت‌وگو با برنامه «نیوزنایت» بی‌بی‌سی گفت: «شما باید این امکان را داشته باشید که پا را از روی پدال گاز بردارید و روی ترمز بگذارید. در حال حاضر صنعت هوش مصنوعی مثل ماشینی است که فقط پدال گاز دارد، اما ترمز ندارد.»

او تأکید کرد که مردم باید از طریق سیاست‌های دولتی، کنترل سیستم‌های هوش مصنوعی را در دست داشته باشند، زیرا این فناوری روزبه‌روز قدرتمندتر می‌شود و تأثیرات گسترده‌تری بر جامعه خواهد گذاشت.

«جهان باید درباره این موضوع، جدی فکر کند و در نهایت باید مقررات جدیدی تدوین شود که به ما اطمینان بدهد این سیستم‌ها قابل اعتماد و ایمن هستند.»

به گفته او در حال حاضر چت‌بات معروف آنتروپیک به نام 'کلود' طوری کار می‌کند که حدود ۸۰ درصد از کدی که اجرا می‌کند را خود سیستم هوش مصنوعی نوشته است نه انسان و رسیدن این عدد به ۱۰۰ درصد در دو سال آینده امکانپذیر است و این موضوع «پیامدهای بسیار بزرگی خواهد داشت.»

آقای کلارک نگفت که دقیقاً چگونه می‌توان برای پژوهش و توسعه هوش مصنوعی «ترمز» ایجاد کرد، اما هوش مصنوعی را با دوران رونق نفت و سرمایه‌داران بزرگ اوایل قرن گذشته مقایسه کرد.

او گفت: «واکنش جامعه در آن زمان (دوران رونق نفت) این بود که یک چارچوب منطقی از قوانین و مقررات ایجاد کند؛ چارچوبی که باعث شد مردم به نفت و مزایای آن اعتماد کنند و در عین حال لازم نباشد نگران شخصیت یا رفتار مدیران شرکت‌های نفتی باشند.»

با این حال، شرکت آنتروپیک این هفته از یک فرمان اجرایی درباره هوش مصنوعی که از سوی دونالد ترامپ، رئیس‌جمهور آمریکا صادر شد، استقبال کرد؛ فرمانی که در آن دولت نقش نسبتاً محدودی در تعیین دستورالعمل‌ها برای شرکت‌ها دارد.

این فرمان شرکت‌های هوش مصنوعی را مجبور به انجام آزمایش ایمنی توسط دولت نمی‌کند و چنین کاری همچنان اختیاری است.

شرکت‌های بزرگ فعال در حوزه هوش مصنوعی از جمله آنتروپیک، اوپن‌ای‌آی و گوگل تاکنون اعلام نکرده‌اند که قصد توقف تحقیقات خود را دارند.

آنتروپیک که طی پنج سال گذشته رشد بسیار سریعی داشته، در حال آماده شدن برای ورود به بازار بورس است.

سرمایه‌گذاران خصوصی ارزش آن را حدود یک تریلیون دلار برآورد کرده‌اند.

آقای کلارک گفت که هدف آنتروپیک از مطرح کردن علنی توانایی‌های رو‌به‌افزایش هوش مصنوعی این نیست که بخواهد خودش را بهتر نشان بدهد یا مشتری جذب کند.

او فقط می‌خواهد «به دنیا بگوید در داخل این شرکت‌ها با این فناوری غیرعادی چه چیزهایی می‌بینیم.»

از زمان تأسیس شرکت آنتروپیک توسط داریو آمودی، جک کلارک و تعدادی انگشت شمار از مدیران، این شرکت را به‌عنوان مجموعه‌ای معرفی کردند که به‌طور صریح درباره خطرات احتمالی هوش مصنوعی صحبت می‌کند.

حتی این شرکت به‌طور علنی با وزارت دفاع آمریکا دچار اختلاف شد، چون نگرانی‌هایی وجود داشت مبنی بر اینکه ابزارهای هوش مصنوعی آن ممکن است برای نظارت گسترده بر شهروندان آمریکایی استفاده شود و همچنین در جنگ‌هایی مورد استفاده قرار بگیرد که سلاح ها و سیستم‌های هوشمند، خودشان در میدان جنگ تصمیم‌گیری کنند.

جک کلارک در گفت‌وگو با برنامه «نیوزنایت» بی‌بی‌سی همچنین گفت: « اگر ما به‌عنوان یک جامعه درباره پیامدهای پیشرفت مداوم هوش مصنوعی گفت‌وگوی جدی نداشته باشیم، برای آینده فرزندانم نگران هستم. هوش مصنوعی می‌تواند مزایای بسیار بزرگی داشته باشد، اما در عین حال خطراتی هم به همراه دارد.»

او گفت یکی از خطرهای هوش مصنوعی این است که می‌تواند باعث اختلال در اقتصاد شود و این نگرانی وجود دارد ربات‌های هوشمندی که می‌توانند بعضی کارهای روزمره را تا حدی به صورت خودکار انجام دهند، ممکن است جای برخی شغل‌ها را بگیرند.

در همین حال، شرکت‌های بزرگ فناوری در یک سال گذشته تعدیل نیروهای گسترده‌ای داشته‌اند و اغلب، دلیل آن را افزایش توانایی ابزارهای هوش مصنوعی در انجام کارهایی عنوان کرده‌اند که پیش‌تر نیاز به صدها یا هزاران مهندس نرم‌افزار داشت.

آقای کلارک گفت افرادی که خلاق‌تر هستند و ایده‌های بیشتر و بهتری دارند ممکن است در واقع نسبت به فناوری هوش مصنوعی مزیت داشته باشند.

او افزود: «این هنوز یک سؤال باز است که آیا سیستم‌های هوش مصنوعی می‌توانند واقعاً خلاق باشند یا نه… فعلاً شواهدی برای این موضوع وجود ندارد.»

با این حال، کلارک پیشنهاد کرد جوانانی که احساس می‌کنند در اقتصادی مبتنی بر هوش مصنوعی جایی برای آن‌ها وجود ندارد، بهتر است یک سرگرمی یا علاقه شخصی پیدا کنند و به سمت تحصیل در رشته‌های هنرهای آزاد بروند.

«افرادی که خلاق هستند و دیدی وسیع دارند. کسانی که زیاد مطالعه می‌کنند و علایق متنوعی دارند، بیشترین بهره را از این فناوری خواهند برد. کنجکاوی خود را دنبال کنید، چون این کار در نهایت در نحوه استفاده شما از این فناوری به شما سود می‌رساند.»