یک گزارش علمی تکان دهنده از نویسنده ای شگفت زده تان می نماید! - بهترین عینک آفتابی

به گزارش بهترین عینک آفتابی، استیون هاوکینگ در این باره هشدار داده بود که توسعه هوش مصنوعی ممکن است روزی به منزله خاتمه نسل بشر باشد.

به گزارش خبرآنلاین، ایلان ماسک، یکی از بنیانگذاران شرکت OpenAI هم در این رابطه گفته: هوش مصنوعی مرا به طرز وحشتناکی می ترساند. توانایی آن به مراتب بیشتر از چیزی است که هر کسی می داند و روند پیشرفت آن به صورت تصاعدی بالاست.

چندی پیش بیش از 1000 لیدر دنیای فناوری، نامه ای را به امضا رساندند که در آن بر این نکته تاکید شده بود که فناوری های هوش مصنوعی، خطرات عمیقی برای جامعه و بشریت ایجاد می نمایند و در این نامه آن ها خواهان آن شدند که تحقیقات درباره هوش مصنوعی تا زمانی که خطرات احتمالی آن بیشتر شناخته شود، متوقف شود.

یوشوا بنجیو، استاد و محقق هوش مصنوعی در دانشگاه مونترئال دراین باره گفته: ما باید حسابی مراقب باشیم.

این روز ها گزارش های منتشره در رسانه ها به طرز فزاینده ای، هشدار هایی را در خصوص پیامد های ناخواسته این فناوری مخرب رو به رشد صادر می نمایند و این درحالی است که در سوی دیگر وعده های مجذوب کننده و وسوسه نماینده فوق العاده ای در خصوص خدمات هوش مصنوعی در طیف وسیعی از بخش ها، از صنعت و اقتصاد و آموزش و علم گرفته تا کشاورزی، پزشکی و تحقیقات به گوش می رسد.

یکی از موارد نگرانی، درباره رفتار های پیش بینی نشده است که تحت عنوان مجموعه ای از تعاملات پیش بینی نشده و برنامه ریزی نشده در یک سیستم تعریف می شوند و از رفتار های برنامه ریزی شده ساده تر در بخش های جداگانه ناشی می شوند.

محققان بر این باورند که بعضی شواهد از چنین رفتاری در بعضی مدل ها مشاهده شده؛ مثلا در سیستم هایی که یاد می گیرند تا شطرنج بازی نمایند و یا استراتژی هایی برای پیشرفت مشخص می نمایند و یا زمانی که ربات ها تغییرپذیری هایی را در الگو های حرکتی به نمایش می گذارند که در ابتدا برنامه ریزی نشده بود.

اتان دایر، دانشمند کامپیوتر گوگل در واکنش به یک آزمایش هوش مصنوعی که در آن یک کامپیوتر به طرز غیرمنتظره ای به تنهایی و با بهره گیری از چند ایموجی، عنوانی برای یک فیلم انتخاب کرد گفت: با وجودی که در انتظار شگفتی بودم، اما واقعا از کار هایی که این مدل ها می توانند انجام دهند، حیرت زده شدم.، اما دایر احتمالا از شنیدن این خبر که یک تیم تحقیقاتی در دانشگاه استنفورد آب پاکی را برروی گزارش های رفتار های پیش بینی نشده ریخته، حیرت زده خواهد شد.

رایان شافر، براندو میراندا و سانمی کیوجو، هفته گذشته مقاله ای را منتشر و در آن اعلام کردند که شواهد رفتار های پیش بینی نشده مبتنی بر آماری است که به احتمال قریب به یقین به اشتباه تفسیر شده اند. آن ها در این باره گفته اند: پیام ما این است که ادعای قبلی درباره توانایی های پیش بینی نشده، احتمالا سرابی است که به وسیله تحلیل های محققان ایجاد شده است.

آن ها در مقاله خود شرح داده اندکه توانایی مدل های زبان بزرگ، با مشخص درصد پیش بینی های صحیح آن ها مقدار گیری می شود. تجزیه و تحلیل های آماری ممکن است به روش های متعددی ارائه شوند. محققان معتقدند که زمانی که نتایج در معیار های غیرخطی و یا ناپیوسته گزارش می شوند، تغییرات تند و تیز و غیرقابل پیش بینی ای به نظر می رسند که به اشتباه به عنوان شاخص های رفتاری پیش بینی نشده تعبیر خواهند شد.

در هر صورت یک ابزار جایگزین برای مقدار گیری داده های یکسان، استفاده از معیار های خطی است که تغییراتی هموار و پیوسته را نشان می دهد که برخلاف مقدار گیری های قبلی، از رفتار های قابل پیش بینی و غیر اضطراری خبر می دهند.

تیم دانشگاه استنفورد در ادامه به این نکته اشاره نموده که عدم استفاده از نمونه های بزرگ، منجر به نتیجه گیری های اشتباه می شود: ادعا های موجود درباره توانایی های پیش بینی نشده، به وسیله تحلیل های محققان خلق شده اند و تغییرات اساسی در رفتار مدل در وظایف و امور خاص نیستند.

آن ها در ادامه تاکید کردند که اگر چه روش شناسی در تحقیقات گذشته، احتمالا نتایج گمراه نماینده ای را به همراه داشته، اما هر آنچه که در مقاله تحقیقاتی آن ها درج شده نیز نباید به این صورت تفسیر شود که مدل های زبانی بزرگ نمی توانند توانایی های پیش بینی نشده را به نمایش بگذارند و روش شناسی مناسب، می تواند به خوبی از چنین ظرفیت هایی رونمایی کند.

این محققان گفته اند: دستورالعمل اصلی، برای یک کار ثابت و یک خانواده مدل ثابت است و محقق می تواند معیار هایی برای خلق یک توانایی پیش بینی نشده برگزیده و یا معیاری برای حذف یک توانایی پیش بینی نشده انتخاب کند.

و یا همانطور که یکی از مفسران برجسته گفته: خروجی الگوریتم، به مقدار پارامتر هایی که سازندگان آن مشخص نموده اند، خوب از آب در می آید. بدان معنا که فضا برای سوگیری های احتمالی در خود هوش مصنوعی وجود دارد.

و این مفسر برجسته چه کسی است؟ ChatGPT مایکروسافت!