باراک اوباما درباره آینده تکنولوژی چه فکر می کند؟ (۲)

مجله سخت افزار - محمد یوسفی زاده: باراک اوباما، رئیس جمهور ایالات متحده آمریکا، در مصاحبه ای که توسط نشریه Wired به همراه مدیر آزمایشگاه رسانه ای دانشگاه MIT ترتیب داده شده درباره تکنولوژی و آینده هوش مصنوعی صحبت های بسیار جالبی داشته است.

آمریکا به دلیل پیشرفت قابل ملاحظه در بسیاری از زمینه های علمی با چالش های ورود آنها به جامعه نیز آشنایی بیشتری دارد و به همین دلیل خواندن پاسخ های بالاترین مقام اجرایی این کشور درباره آینده هوش مصنوعی می تواند نکات بسیار قابل توجهی را مشخص کند. شب گذشته اولین قسمت از این مصاحبه را مطالعه کردید. دعوت میکنیم در ادامه با دومین بخش از این مصاحبه جالب با ما همراه باشید.

دادیچ: وقتی درباره این قضیه هوش مصنوعی توسعه یافته و ارتباطش با دولت، بخش خصوصی و دانشگاه ها صحبت می کنیم، تمرکز تحقیقات باید در اختیار کدوم یک از این سه بخش باشه؟ اصلا آیا هسته مرکزی برای تمرکز وجود داره؟

ایتو: من فکر میکنم MIT عقیده داشته باشه که تمرکز اصلی باید روی MIT قرار داشته باشه [خنده]. معمولا تعدادی از دانشگاه ها و مراکز تحقیقاتی وجود دارن که از سوی دولت پشتیبانی میشن. ولی در حال حاضر عموما آزمایشگاه های میلیارد دلاری خصوصی در حال فعالیت هستن.

اوباما: ما افرادی که از این تحقیقات پشتیبانی میکنن رو میشناسیم و برای مثال اگر با لری پیج [یکی از بنیانگذاران گوگل] یا سایرین صحبت کنید نگرش کلی اونها همون طور که قابل پیش بینی هم هست اینه که "آخرین چیزی که بهش نیاز داریم یه مشت کاغذ بازی هستن که فقط باعث کند شدن سرعت کار ما میشن".

بخشی از مشکلی وجود داره اینه که تعهد کلی ما به عنوان یک جامعه به تحقیقات بنیادی کاهش پیدا کرده. اعتماد ما به فعالیت های جمعی کمتر شده که بخشی از این اتفاق به دلیل ایدئولوژی و لفظ هاست.

قیاسی که ما برای یک دستاورد تکنولوژیک حتی ۵۰ سال بعد ازش استفاده میکنیم سفر به ماهه [در اصطلاح فارسی آپولو هوا کردن]. یک نفر به من یادآوری کرد که برنامه فضایی فقط نیم درصد از GDP رو در اختیار داره. این عدد زیادی نیست ولی با در نظر گرفتن شرایط فعلی رقمی در حدود ۸۰ میلیارد دلار به صورت سالیانه به این بخش اختصاص داده میشه.

این عدد درباره هوش مصنوعی کمتر از یک میلیارد دلاره ولی در آینده افزایش پیدا خواهد کرد ولی چیزی که باید بهش توجه داشته باشیم اینه که اگر میخوایم ارزش های یک جامعه متکثر در این تکنولوژی ها به کار گرفته بشن، اونوقت کمک های دولتی فقط باید بخشی از هزینه ها رو تحت پوشش قرار بدن. اگر دولت نخواد به این پروژه ها کمک مالی داشته باشه همه مسائلی که جویی درباره قرار دادن ارزش ها در تکنولوژی دربارشون صحبت کرد از بین خواهند رفت و یا حداقل بسیار کمرنگ میشن.

دادیچ: شما به موضوع بسیار بحث برانگیزی اشاره کردید: تفاوت بین دستاوردهای علمی در حاشیه و دستاوردهای علمی در بخش هایی مثل برنامه فضایی. چطور میتونیم اطمینان داشته باشیم ایده هایی که شما گفتید عملی خواهند شد؟

اوباما: من سعی کردم روی این نکته تاکید کنم که فقط به خاطر اینکه دولت در حال کمک مالیه و به جمع آوری اطلاعات هم کمک میکنه به این معی نیست که همه کنترل این تکنولوژی در اختیار ما یا ارتشه. اجازه بدید یه مثال ساده بزنم: بخشی از پروژه ما در بخش دارویی اینه که یک پایگاه اطلاعاتی گسترده از ژنوم های انسانی از اقوام مختلفی که در آمریکا زندگی میکنن داشته باشیم.

اما به جای اینکه به دانشگاه استنفورد یا هاروارد برای این کار کمک مالی کنیم، که باعث میشه این تکنولوژی در اختیار اونها قرار داده بشه، ترجیح میدیم همه بخش های تحقیقاتی به این پایگاه اطلاعاتی دسترسی داشته باشن. مجموعه مشخصی از ارزش ها وجود داره، مجموعه ای از ساختارها تا تضمین کنه تحقیقات و نتایجشون بین همه به اشتراک گذاشته میشن و توسط یک گروه خاص حفظ نمیشن.

دادیچ: ولی ریسک هایی هم وجود داره. ما از بعضی ها مثل ایلان ماسک و نیک باستروم شنیدیم که هوش مصنوعی میتونه توانایی دور زدن آدم ها رو داشته باشه. همین طور که به این پیشرفت ادامه میدیم، چطور میشه این نگرانی ها رو در نظر گرفت تا کل بشریت به خطر نیفتن؟

اوباما: اجازه بدید درباره چیزی صحبت کنم که به نظر مهم ترین خطر فعلی برای ماست. البته این موضوع در زمینه هوش مصنوعی با کارکرد اختصاصی قابل حله و باید دربارش به خوبی فکر کنیم. اگر شما یک رایانه داشته باشید که بتونه یه بازی پیچیده با محاسبات و متغیرهای بسیار زیادی رو اجرا کنه، اون وقت توسعه دادن الگوریتمی که به شما اجازه بده سودتون در بازار بورس نیویورک رو به حداکثر برسونید به هیچ وجه کار سختی نیست. و اگر یک شخص یا سازمان چنین توانایی داشته باشه میتونه خیلی راحت و سریع بازار بورس رو نابود کنه و خطرات بسیار زیادی رو متوجه سرمایه گذاران این بازار کنه.

همینطور ممکنه یه الگوریتمی وجود داشته باشه که بگه "در کدهای هسته ای نفوذ کن و نحوه پرتاب کردن بعضی از سلاح ها رو پیدا کن". فرض کنید تنها کار چنین الگوریتمی همین باشه ولی بتونه خودش رو آموزش بده اونوقته که با مشکل روبرو میشیم. به نظرم راهبرد تیم امنیت ملی اینه که فعلا درباره ماشین هایی که میتونن بر علیه انسان انقلاب کنن نگران نباشید. نگرانی اصلی ما ظرفیت هر کدوم از اینها برای نفوذ به سیستم های مختلفه و به خاطر همین هم هست که در بخش امنیت سایبری فعالیت های زیادی در حال اجراست. در واقع هدف ما اینه که بهتر بشیم چون افرادی که ممکنه به چنین سیستم هایی دسترسی داشته باشن هم در حال پیشرفت هستن.

ایتو: من در حالت کلی با این ایده موافقم. تنها چیزی که باید در نظر داشت اینه که افرادی هستن که عقیده دارن شانس بسیار زیادی وجود داره که یک ساختار هوش مصنوعی اختصاصی در 10 سال آینده ایجاد بشه. ولی دیدگاه من درباره این موضوع اینه که برای وقوع چنین اتفاقی ما باید پیشرفت های بسیار زیادی در بخش علمی داشته باشیم. در نتیجه شما باید زمانی که پیشرفت ها اتفاق میفتن حواستون جمع باشه.

اوباما: و فقط کافیه افرادی رو داشته باشید که به منبع قدرت نزدیک باشن [خنده]. درسته، وقتی شما میبینید که اتفاقاتی در حال رخ دادن هستن باید دوشاخه رو از برق بکشید.

ایتو: چیزی که مهمه پیدا کردن افرادیه که بخوان از هوش مصنوعی در جهت مثبت استفاده کنن و کمک کردن به اونهاست.

اوباما: از قدیم وقتی درباره امنیت و حفاظت از خودمون صحبت میکنیم ذهنمون به سمت اسلحه و زره میره. ولی من به مرور توجهم بیشتر به داروها و فکر کردن به ویروس ها و آنتی بادی ها جلب میشه. بخشی از دلیل اینکه حوزه امنیت سایبری چالش های زیادی داره اینه که خطراتی که باهاش روبرو هستیم چند تا تانک نیستن؛ بلکه سیستم هایی هستن که در برابر ویروس ها آسیب پذیرن. یعنی اینکه باید ذهنیتمون رو درباره امنیت تغییر بدیم، سرمایه گذاری های متفاوتی انجام بدیم که شاید ظاهرشون جالب نباشه ولی اهمیتشون کمتر از چیزای دیگه نیست.

چیزهایی که بیش از همه ذهن منو درگیر میکنن مواردی مثل اپیدمی ها هستن. شما نمیتونید برای اینکه از آنفولانزا جلوگیری کنید دور کشور دیوار بکشید. در عوض باید بتونیم سیستم هایی طراحی کنیم که در همه نقاط جهان سامانه های سلامت عمومی ایجاد کنن و زمانی که یه اپیدمی در حال وقوعه بهمون هشدار بدن تا پروتکل های لازم رو برای اعمال کنیم و واکسن های لازم رو هوشمندتر درست کنیم. اگر درباره یه مدل سلامت عمومی و نحوه مواجهه با مشکلاتش در زمینه امنیت سایبری فکر کنید، افراد زیادی هستن که بتونن کمک کنن.

ایتو: یه چیزی که به نظرم جالب میرسه وقتیه که به تکنیک میکروبیوم نگاه میکنیم. شواهد زیادی وجود دارن که نشون میدن وارد کردن بعضی از باکتری ها به بدن میتونه قدرت مبارزه با باکتری های دیگه رو افزایش بده.

اوباما: دقیقا. البته من اصلا دوست ندارم سانی و بو [سگ های اوباما] این باکتری های خوب رو بهم منتقل کنن چون وقتی میبرمشون بیرون که قدم بزنم بعضی چیزا رو از رو زمین برمیدارن که حالمو بهم میزنه [خنده].

ایتو: ما باید در نحوه تفکرمون درباره تمیز بودن تجدید نظر کنیم. همین داستان درباره امنیت سایبری یا امنیت ملی هم وجود داره. به نظرم شما میتونید دستورات مشخصی بدید یا اینکه هر چیزی که میتونه باعث بیماری های سخت میشه رو از بین ببرید.

اوباما: هیچ شکی وجود نداره که توسعه هنجارهای بین المللی، پروتکل ها و مکانیزم های تائیدی درباره امنیت سایبری به طور عام و هوش مصنوعی به طور خاص هنوز در ابتدای راهه. چیزی که این نکته رو جالب میکنه اینه که خط بین دفاع و تهاجم در اینجا بسیار باریکه.

و زمانی که بدگمانی های زیادی به دولت وجود داره شرایط سخت تر هم میشه. وقتی در بخش های مختلف جهان کشورهایی رو میبینید که آمریکا رو یک ابرقدرت سایبری میدونن باید بگیم "ما میتونیم خودمون رو مقید کنیم، اگر شما هم قیدهایی رو برای خودتون در نظر بگیرید". چالشی که وجود داره اینه که اصلی ترین بازیگران این بخش یعنی روسیه، چین و ایران، همیشه با ارزش هایی که ما داریم موافق نیستن. ولی ما باید به این موضوع به عنوان یک چالش بین المللی نگاه کنیم تا بتونیم موثر باشیم.