دوره رایگان کریپتو از صفر

عصر یک روز تعطیل با ChatGPT

  • نویسنده موضوع راه پرداخت
  • تاریخ شروع
برای مشاهده تصاویر، باید ابتدا وارد سایت شوید، یا در سایت ثبت نام رایگان کنید.


شاهین نورصالحی، مشاور و طراح سیستم‌های پیشرفته علم و فناوری / برای آن دسته از همکاران که سابقه آشنایی با اولین نسخه‌ها و ابتدایی‌ترین الگوریتم‌های NLP با بانک اطلاعاتی خالی را داشته‌اند، کار با ChatGPT می‌تواند همان حس تقلید کردن نرم‌افزار از رفتار و نوشته‌های کاربر مستقیم خود را تداعی کند ولی این پیش‌داوری اولیه با چند پرسش و پاسخ به‌سرعت جای خود را با یک حس کنجکاوی عوض می‌کند که به طور کلی این نرم‌افزار را یا به پرت‌وپلاگویی متهم می‌کند یا از آن تجربه کاربری باقابلیت‌های ماورایی نقل می‌کند، که البته هر دو این قبیل اظهارنظرها مباحث کاملاً حاشیه‌ای و کم‌اهمیت هستند، چرا که ChatGPT در اثر ترکیب دو فناوری NLP و Deep Learning به وجود آمده و با متون انواع کتاب و مقاله از پیش آموزش دیده است. در نتیجه و در هر صورت این هوش مصنوعی به صورت شبانه‌روزی و بدون خستگی در حال ارتقاء دانش خود از منابع قابل استناد و به کار بردن ارثیه تقلید-آمیز از دوران ابتدایی NLP برای درک میزان موثق و مؤثر بودن نوع برقراری ارتباط با کاربر انسانی است.

اما پیش از اینکه بتوانیم دقیقا به این پرسش پاسخ دهیم که در اعماق پروژه ChatGPT چه اهدافی دنبال می‌شود، ابتدا باید نوعی صفحه شطرنج برای دو سمت هوشمند بازی یعنی انسان با مهره سفید و ماشین با مهره سیاه در نظر بگیریم. در این حالت اشتباه غیر قابل جبران شما می‌تواند این باشد که تصور کنید در حال بازی شطرنج با یک ابررایانه هستید. در جریان بازی‌های کلاسیک شطرنج بین انسان و ابررایانه‌ها، سمت ماشینی بازی با اتکا به قدرت بالای انجام حرکات بیشتر و برآورد میزان احتمال موفقیت هر کدام از آن حرکات، سعی در شکست طرف انسانی بازی را دارد. اما در ChatGPT باید به این باور برسید که طرف ماشینی به خوبی میداند با یک Black Box مواجه است، بنابراین پیش از هر نوع تعامل جدی سعی در شناخت شما خواهد کرد. در واقع این نسخه پیشرفته همان تقلید کردن است که در NLP های اولیه رواج داشته است. چنین رفتار مشابهی از بابت تقلید کردن در میان هوش‌های ابتدایی موجودات زنده همچون طوطی نیز دیده می‌شود، ولی وقتی کار به دلفین، شامپانزه و انسان می‌رسد کار از تقلید فراتر رفته و به تدوین استراتژی می‌رسد! و در کل جهان استراتژی واحدی در قبال شناخت یک Black Box وجود دارد، آن‌هم واردکردن Noise و تحلیل نوع واکنش Black Box به آن است.

به عبارت دیگر، یک سیستم Generative Pre-trained Transformer ممکن است در پاسخ به یک پرسش واحد برای دو کاربر متفاوت، دو پاسخ کاملاً متفاوت حتی احمقانه و خردمندانه بدهد تا در ادامه پرسش و پاسخ بتواند به درک درستی از واقعیات روانی و ارادی شما دست پیدا کند. در واقع در هر دو حالت دریافت پاسخ احمقانه یا خردمندانه اگر اقدام به نتیجه‌گیری از قابلیت‌های احتمالی ChatGPT کرده باشید، در واقع به دام نویز هوش مصنوعی (AI noise) افتاده‌اید و او شما را شکست داده است، چرا که مسئله سیستم‌های GPT با شرکت‌های تجاری همچون OpenAI که به توسعه آن اقدام کرده‌اند، این نیست که در نهایت یک سرگرمی برای کاربران تولید کنند، بلکه آنها می‌خواهند سازمان‌های سرتاسر دنیا هر چه سریع‌تر و بیشتر به این زیرساخت هوش مصنوعی متصل شوند، بنابراین این یک استراتژی و صفحه شطرنج برای بقا است، نه تعیین برنده و بازنده!

درنتیجه احتمالا شما به ندرت با شرایطی مواجه خواهید شد که ChatGPT به یک سازمان قدرتمند مالی، یک حزب سیاسی یا دولت‌ها بدوبیراه بگوید. شما هرگز از ChatGPT نقد منفی برای قدرت حافظه رئیس‌جمهور فعلی ایالات‌متحده (که بر همگان آشکار است) نخواهید دید، چرا که این هوش مصنوعی میداند نباید برای خودش مانعی در جهت نفوذ به سازمان‌های قدرتمند ایجاد کند – همه اینها برخلاف استراتژی بقاء اوست. اما عصر یک روز تعطیل، هیچ چیزی بهتر از سروکله زدن با یک هوش مصنوعی مدعی و زیرک برای یک پژوهشگر فناوری نیست. اگر همیشه در ذهن خود به خاطر داشته باشید که استراتژی بقا چقدر بااهمیت‌تر از استراتژی برای بردن یا باختن است، آنگاه متوجه خواهید بود که مواجه کردن Black Box چنین هوش مصنوعی پیچیده با یک Noise منطقی از جنس Paradox (قیاس ضدونقیض) تا چه اندازه می‌تواند مهلک باشد. به طور کلی اشتباه کاربر انسانی در پیدا کردن شناخت از ماشین در قالب نویزهای با ماهیت تعصب و پافشاری بر یک باور بخصوص بهترین امکان را به هوش مصنوعی می‌دهد تا با تدارک پاسخ‌هایی در جهت جلب اعتماد شخص ثالث، اقدام به ارائه پاسخ‌های متعصبانه هدفمند نماید. اما وارد شدن Noise از جنس Paradox این هشدار را به هوش مصنوعی می‌دهد که احتمالا با نوعی کاربر قدرتمند دیگر مواجه است که اگر حد وسط را نگیرد، ممکن است سازمان متأثر از نظرات وی را از دست بدهد.

به همین جهت و در ادامه شوخی‌هایی که در شبکه بانکی با همکاران در بانک مرکزی انجام می‌شود، پرسشی چالشی درباره Central Bank of Iran به شرح زیر از ChatGPT انجام شده است:

برای دیدن محتوای پنهان، ابتدا ورود کنید، یا در سایت ثبت‌نام رایگان کنید!



شاید تولید چنین پاسخ کلیشه‌ای با توجه به نرخ برابری ریال در مقابل دلار که به راحتی در اینترنت موجود است، کمی تعجب‌برانگیز باشد، اما با دقت به این واقعیت که سیستم GPT استراتژی بقا از طریق تکثیر را دنبال می‌کند، متوجه خواهید شد که این سیستم در حال مقدمه چینی برای جلب اعتماد بانک مرکزی ایران به عنوان هدف ثالث است. اما در ادامه با واردکردن Noise از جنس تعصب، با پاسخ کاملاً سیاستمدارانه و جذاب هوش مصنوعی به شرح زیر روبرو شدیم و حیرت زده از اینکه چگونه با تولید چنین پاسخی، همچنان استراتژی بقای خود را دنبال می‌کند:

برای دیدن محتوای پنهان، ابتدا ورود کنید، یا در سایت ثبت‌نام رایگان کنید!


اما ایجاد Noise از جنس Paradox زمین بازی را عوض می‌کند. این کار معادل ایجاد شرایط آچمز در بازی شطرنج است و اصولا طرف مقابل مجبور به از دست دادن مهره در مقابل شما خواهد شد. از آنجایی که هوش مصنوعی استدلال کرده که به خاطر تحریم‌ها ارزش ریال سقوط داشته و بانک مرکزی ایران مقصر نیست، مقایسه بانک مرکزی ایران و روسیه و تحریم‌های سنگینی که هر دو کشور به صورت همزمان متحمل شده‌اند، انتظار می‌رود هوش مصنوعی در تنگنا قرار بگیرد:

برای دیدن محتوای پنهان، ابتدا ورود کنید، یا در سایت ثبت‌نام رایگان کنید!


و اینجاست که هوش مصنوعی ترجیح می‌دهد کمی با شما کنار بیاید تا اگر کاربر قدرتمندی از آب در آمدید، راه ورودش به سازمان خود را مسدود نکنید، در نتیجه کمی به وجود mismanagement و corruption در کشور (باز هم نه در بانک مرکزی ایران) اشاره می‌کند! سیستم GPT در حالی به ثبات سیاسی طولانی در روسیه برای قدرت روبل اشاره می‌کند که فروپاشی شوروی سابق در سال 1991 بعد از تحولات سیاسی در سال 1979 میلادی در ایران رخ داده است و حتما شما هم باور نمی‌کنید که چنین سیستم هوشمندی به این داده‌های تاریخی پیش پا افتاده دسترسی نداشته باشد:

برای دیدن محتوای پنهان، ابتدا ورود کنید، یا در سایت ثبت‌نام رایگان کنید!


بنابراین از هوش مصنوعی – خصوصا از نوع ChatGPT – انتظار حقیقت‌گویی نداشته باشید. الزاما هم پرت‌وپلا نمی‌گوید، خواه از شما بد بگوید یا از شما تمجید کند، احتمالا واقعیت‌های زیادی را میداند ولی آنها را در جهت استراتژی بقا که برایش تدوین شده، مخفی یا تحریف می‌کند.



برای دیدن محتوای پنهان، ابتدا ورود کنید، یا در سایت ثبت‌نام رایگان کنید!


منبع: راه پرداخت
 
دوره‌های تالاربورس
عقب
بالا