جدی تهدید برای انسان هوش مصنوعی است!

چرا هوش مصنوعی این همه ترس ایجاد کرده است و چه کنیم؟ جفری هینتون، «پدرخوانده هوش مصنوعی» نگران چه چیزی است؟ چهار خطری که این فناوری را تهدید می کند چیست؟

برخی از بزرگترین نگرانی های بیان شده در مورد آینده هوش مصنوعی و بشریت چیست؟

کارشناسان برجسته هوش مصنوعی زنگ خطر را درباره سرعت و عظمت تحولات اخیر در این زمینه به صدا درآورده و هشدار داده اند که این تحولات چیزی کمتر از تهدیدی برای بشریت نیست.

جفری هینتون، دانشمند کامپیوتر که به عنوان “پدرخوانده هوش مصنوعی” شناخته می شود، اخیراً از شغل خود در گوگل استعفا داد تا نگرانی های خود را در مورد توسعه کنترل نشده ابزارهای هوش مصنوعی جدید به اشتراک بگذارد.

هینتون، 75 ساله، به MIT Technology Review گفت: “من ناگهان نظرم را در مورد اینکه آیا این دستاوردها از ما پیشی خواهند گرفت تغییر کردم.” من معتقدم که هوش مصنوعی در حال حاضر بسیار به ما نزدیک است و در آینده بسیار باهوش تر از ما خواهد بود. سوال اینجاست که چگونه ما انسان ها می توانیم از این فناوری جان سالم به در ببریم؟

هینتون تنها کسی نیست که در مورد آن ابراز نگرانی کرده است. در ماه فوریه، سام آلتمن، مدیر عامل OpenAI، شرکتی که ChatGPT را توسعه داد، نیز اظهار داشت: جهان از ابزارهای هوش مصنوعی بالقوه وحشتناک دور نیست. بنابراین، تعیین قوانین در این زمینه بسیار مهم است، اما درک آنها زمان می برد.

اندکی پس از اینکه استارت آپ تحت حمایت مایکروسافت آخرین مدل هوش مصنوعی خود، GPT-4 را در ماه مارس منتشر کرد، بیش از هزار محقق و فناوری نامه ای نوشتند و خواستار توقف این فناوری شدند و به خطرات عمیق آن برای جامعه و فراتر از آن اشاره کردند.

اینها بزرگترین نگرانی هایی است که توسط هینتون و سایر کارشناسان مطرح شده است.

1- هوش مصنوعی می تواند از ما باهوش تر باشد

مغز انسان به لطف استعداد ذاتی خود در سازماندهی و ذخیره اطلاعات و یافتن راه حل برای مشکلات دشوار می تواند معادلات را حل کند، سریال ها را هدایت کند و دنبال کند.

تقریباً 86 میلیارد نورون واقع در جمجمه انسان و مهمتر از آن 100 تریلیون اتصال بین این نورون ها این قابلیت ها را به انسان داده است.

هینتون می گوید در مقابل، بین 500 میلیارد تا یک تریلیون اتصال در فناوری زیربنایی ChatGPT وجود دارد. در حالی که به نظر می رسد این موضوع آن را در مقایسه با ما در یک نقطه ضعف بزرگ قرار می دهد، GPT-4، آخرین مدل هوش مصنوعی از OpenAI، صدها برابر بیشتر از هر انسان دیگری می داند. این فناوری شاید الگوریتم یادگیری بسیار بهتری نسبت به انسان ها داشته باشد که باعث کارآمدتر شدن آن در فعالیت های شناختی می شود.

محققان مدت‌هاست متوجه شده‌اند که جذب و بکارگیری دانش جدید در شبکه‌های عصبی مصنوعی در مقایسه با انسان بسیار طولانی‌تر است، زیرا آموزش آنها به انرژی و داده‌های بسیار زیادی نیاز دارد.

اما هینتون می‌گوید که دیگر اینطور نیست و سیستم‌هایی مانند GPT-4 پس از آموزش صحیح توسط محققان، می‌توانند خیلی سریع چیزهای جدید یاد بگیرند. این بی شباهت به روشی نیست که یک فیزیکدان حرفه ای آموزش دیده یافته های تجربی جدید را خیلی سریعتر از یک دانش آموز دبیرستانی درک می کند.

این امر هینتون را به این نتیجه رساند که سیستم های هوش مصنوعی هوشمندتر از ما هستند. آنها نه تنها می توانند مطالب را سریعتر یاد بگیرند، بلکه می توانند نسخه هایی از دانش خود را نیز تقریباً فوراً با یکدیگر به اشتراک بگذارند. این یک شکل کاملاً متفاوت از هوش، یک شکل جدید و بهتر از هوش است.

2- هوش مصنوعی می تواند انتشار اطلاعات نادرست را تسریع کند

چه چیزی سیستم های هوش مصنوعی را از انسان باهوش تر می کند؟ یک احتمال نگران کننده این است که افراد، گروه ها یا دولت-ملت های متخاصم ممکن است به سادگی از آنها برای پیشبرد اهداف خود سوء استفاده کنند.

بر اساس گزارش جدید NewsGuard که اعتبار وب سایت ها را ارزیابی می کند و اطلاعات نادرست آنلاین را ردیابی می کند، اکنون ده ها سایت خبری جعلی در سراسر اینترنت به زبان های مختلف پخش شده اند که برخی از آنها روزانه صدها مقاله منتشر می کنند که از کمک آنها برخوردار است. هوش مصنوعی تولید می شوند، منتشر می شوند.

هینتون به ویژه نگران است که ابزارهای هوش مصنوعی می توانند برای تأثیرگذاری بر انتخابات و حتی شروع جنگ آموزش داده شوند.

برای مثال، اطلاعات نادرست انتخاباتی که توسط چت‌بات‌های هوش مصنوعی منتشر می‌شود، می‌تواند نسخه آینده اطلاعات نادرست انتخاباتی باشد که توسط فیس‌بوک و سایر پیام‌رسان‌های اجتماعی منتشر می‌شود، و این ممکن است تازه شروع باشد.

3- آیا هوش مصنوعی افراد را بیکار می کند؟

OpenAI تخمین می زند که 80 درصد از کارگران آمریکایی مشاغل خود را تحت تأثیر هوش مصنوعی خواهند دید. گزارشی از شرکت خدمات بانکی و مالی گلدمن ساکس ادعا می کند که این فناوری می تواند 300 میلیون شغل تمام وقت در سراسر جهان را تهدید کند.

به گفته هینتون، بقای بشریت زمانی در خطر است که «ابزارهای هوشمند بتوانند ما را پشت سر بگذارند».

هینتون می گوید، این چیزها به ما می آموزد که چگونه با خواندن تمام رمان هایی که تا کنون نوشته شده است و هر آنچه که نیکولو ماکیاولی مورخ و نمایشنامه نویس ایتالیایی نوشته است، مردم را کنترل کنیم. حتی اگر نتوانند مستقیماً اهرم ها را بکشند، مطمئناً می توانند ما را مجبور کنند که اهرم ها را بکشیم.

4- ما به خوبی نمی دانیم چگونه جلوی آن را بگیریم

هینتون افزود: “ای کاش یک راه حل ساده خوب داشتم، اما مطمئن نیستم که وجود داشته باشد.”

با این حال، دولت ها توجه زیادی به ظهور هوش مصنوعی دارند. کاخ سفید از مدیران گوگل، مایکروسافت و OpenAI، خالق ChatGPT دعوت کرد تا با “کامالا هریس” معاون رئیس جمهور ایالات متحده در مورد چگونگی کاهش خطرات کوتاه مدت و بلندمدت این فناوری ملاقات کنند. و صریح در مورد آن بحث کنید.

قانونگذاران اروپایی نیز در حال تسریع مذاکرات برای تصویب قوانین جامع هوش مصنوعی هستند. بریتانیا قصد دارد تأثیر هوش مصنوعی بر مصرف‌کنندگان، کسب‌وکارها و اقتصاد را بررسی کند و اینکه آیا کنترل‌های جدیدی برای فناوری‌هایی مانند ChatGPT مورد نیاز است یا خیر.

آنچه مشخص نیست این است که چگونه کسی می تواند قدرتی مانند روسیه را از استفاده از فناوری هوش مصنوعی برای تسلط بر همسایگان یا شهروندان خود باز دارد.

هینتون پیشنهاد کرد که یک توافق جهانی مشابه کنوانسیون تسلیحات شیمیایی 1997 اولین گام خوبی برای ایجاد قوانین بین‌المللی علیه هوش مصنوعی است.