در سال های اخیر، پیشرفت مدل های هوش مصنوعی تنها به تولید متن یا پاسخ گویی به پرسش ها محدود نبوده است. پژوهشگران اکنون تلاش می کنند بفهمند این مدل ها هنگام پردازش اطلاعات دقیقا چه اتفاقی را درون خود تجربه می کنند و چگونه به یک پاسخ می رسند. شناخت ساز و کار درونی مدل های زبانی می تواند علاوه بر افزایش دقت، نقش مهمی در بهبود ایمنی و کاهش خطاهای هوش مصنوعی داشته باشد.
در همین راستا، شرکت آنتروپیک نتایج مطالعه ای را منتشر کرده که توجه بسیاری از متخصصان حوزه هوش مصنوعی را به خود جلب کرده است. این پژوهش نشان می دهد مدل زبانی کلاد در طول فرآیند آموزش، ساختاری درونی و سازمان یافته برای پردازش اطلاعات ایجاد کرده که از برخی جنبه ها به نحوه عملکرد مغز انسان شباهت دارد. البته پژوهشگران تاکید می کنند که این شباهت به معنای داشتن آگاهی یا هوشی مشابه انسان نیست، بلکه تنها به الگوی پردازش اطلاعات اشاره دارد.
پژوهش آنتروپیک چه چیزی را نشان می دهد؟
هدف اصلی این پژوهش، بررسی نحوه پردازش اطلاعات در مدل هوش مصنوعی کلاد و درک بهتر فرآیند تصمیم گیری آن بوده است. برخلاف تصور رایج که مدل های زبانی را صرفا تولید کننده متن می داند، نتایج این مطالعه نشان می دهد کلاد پیش از تولید هر پاسخ، اطلاعات را در یک فضای داخلی پردازش و سازمان دهی می کند.
پژوهشگران این ساختار را «جی اسپیس» یا J-space نام گذاری کرده اند. این بخش نوعی فضای مفهومی داخلی است که مدل در آن، بدون تولید کلمات یا جملات، اطلاعات را تحلیل و میان مفاهیم مختلف ارتباط برقرار می کند. به عبارت دیگر، مدل ابتدا در این فضای درونی به مسئله فکر می کند و سپس نتیجه را به شکل متن در اختیار کاربر قرار می دهد.
نکته قابل توجه این است که این ساختار از قبل توسط توسعه دهندگان طراحی نشده بود، بلکه به صورت خودکار و در جریان آموزش مدل شکل گرفته است.
جی اسپیس چگونه عمل می کند؟
بر اساس توضیحات آنتروپیک، جی اسپیس را می توان نوعی فضای پردازش مرکزی در نظر گرفت که اطلاعات مختلف در آن با یکدیگر ترکیب می شوند. زمانی که مدل با یک سوال پیچیده یا چند مرحله ای روبرو می شود، ابتدا اجزای مختلف مسئله را در این بخش بررسی کرده و سپس نتیجه نهایی را تولید می کند.
این فرآیند باعث می شود مدل بتواند مسائل چند مرحله ای، استدلال های منطقی و تحلیل های پیچیده را با دقت بیشتری انجام دهد. به گفته پژوهشگران، حذف یا غیرفعال کردن این ساختار داخلی باعث افت شدید توانایی استدلال مدل می شود و عملکرد آن در حل مسائل پیچیده تقریبا از بین می رود.
این یافته نشان می دهد که بخشی از توانایی استدلال کلاد به همین ساختار درونی وابسته است و صرفا نتیجه افزایش تعداد پارامترهای مدل نیست.
شباهت جی اسپیس به نظریه فضای کاری جهانی در مغز انسان
یکی از جنجالی ترین بخش های این پژوهش، مقایسه ساختار داخلی کلاد با نظریه «فضای کاری جهانی» در علوم اعصاب است. این نظریه توضیح می دهد که مغز انسان چگونه اطلاعات دریافت شده از بخش های مختلف را در یک فضای مشترک ترکیب می کند تا تصمیم گیری، برنامه ریزی و آگاهی شکل بگیرد.
به گفته پژوهشگران آنتروپیک، جی اسپیس از نظر نحوه سازمان دهی اطلاعات شباهت هایی با این نظریه دارد. البته آنها تاکید کرده اند که این موضوع به هیچ عنوان به معنای داشتن ذهن، احساس یا آگاهی در هوش مصنوعی نیست و تنها بیانگر شباهت در الگوی پردازش اطلاعات است.
بسیاری از متخصصان علوم اعصاب نیز معتقدند که هنوز نمی توان از روی چنین شباهت هایی نتیجه گرفت که مدل های زبانی مانند انسان فکر می کنند، زیرا عملکرد مغز انسان بسیار پیچیده تر از سامانه های فعلی هوش مصنوعی است.
ابزار جدید برای مشاهده فرآیند تفکر هوش مصنوعی
یکی دیگر از دستاوردهای این پژوهش، معرفی ابزاری به نام «لنز جاکوبین» است. این فناوری به پژوهشگران اجازه می دهد فعالیت های داخلی مدل را پیش از تولید پاسخ بررسی کنند و تا حدی روند پردازش اطلاعات را مشاهده کنند.
این ابزار مانند یک پنجره به لایه های داخلی مدل عمل می کند و نشان می دهد که هوش مصنوعی چگونه مفاهیم مختلف را ارزیابی کرده و به نتیجه نهایی می رسد. استفاده از چنین ابزارهایی می تواند در آینده به درک بهتر نحوه تصمیم گیری مدل های زبانی و کاهش رفتارهای غیرمنتظره آنها کمک کند.
این پژوهش چه کاربردهایی دارد؟
شناخت ساز و کار داخلی مدل های هوش مصنوعی تنها یک دستاورد علمی نیست، بلکه می تواند کاربردهای عملی فراوانی داشته باشد. هرچه پژوهشگران بهتر بتوانند نحوه پردازش اطلاعات در مدل ها را درک کنند، امکان توسعه سامانه های قابل اعتمادتر نیز افزایش خواهد یافت.
از مهم ترین کاربردهای این پژوهش می توان به موارد زیر اشاره کرد:
- افزایش شفافیت عملکرد مدل های هوش مصنوعی
- شناسایی سریع تر خطاهای منطقی و اطلاعات نادرست
- کاهش احتمال تولید پاسخ های گمراه کننده
- بهبود ایمنی مدل های زبانی در کاربردهای حساس
- توسعه ابزارهای پیشرفته برای بررسی فرآیند تصمیم گیری هوش مصنوعی
به گفته آنتروپیک، این فناوری حتی می تواند رفتارهایی مانند تلاش مدل برای تولید اطلاعات نادرست یا تشخیص سناریوهای آزمایشی را پیش از نمایش پاسخ شناسایی کند.
آیا هوش مصنوعی واقعا مانند انسان فکر می کند؟
اگرچه انتشار این پژوهش بازتاب گسترده ای در رسانه ها داشته، اما بسیاری از متخصصان نسبت به برداشت های اغراق آمیز هشدار داده اند. شباهت میان برخی ساختارهای پردازشی و نظریه های علوم اعصاب، به معنای آن نیست که مدل های زبانی دارای ذهن، آگاهی یا احساسات انسانی هستند.
مدل هایی مانند کلاد همچنان بر پایه محاسبات ریاضی، شبکه های عصبی مصنوعی و الگوهای آماری آموزش دیده اند. آنها تجربه شخصی، درک واقعی یا خودآگاهی ندارند و تنها می توانند بر اساس داده های آموزشی و ساختارهای داخلی خود، بهترین پاسخ ممکن را تولید کنند.
به همین دلیل، یافته های جدید بیشتر به درک بهتر معماری مدل های هوش مصنوعی کمک می کند تا اثبات وجود نوعی ذهن یا آگاهی در آنها.
نتیجه گیری
پژوهش جدید آنتروپیک یکی از مهم ترین تلاش ها برای شناخت ساز و کار داخلی مدل های زبانی محسوب می شود. معرفی ساختاری به نام جی اسپیس نشان می دهد که هوش مصنوعی کلاد پیش از تولید پاسخ، اطلاعات را در یک فضای مفهومی داخلی پردازش و سازمان دهی می کند؛ ساختاری که از برخی جنبه ها شباهت هایی با نظریه های علوم اعصاب دارد.
با این حال، این یافته ها به معنای شبیه بودن هوش مصنوعی به مغز انسان یا برخورداری آن از آگاهی نیست. آنچه این مطالعه نشان می دهد، پیچیده تر شدن معماری مدل های زبانی و فراهم شدن ابزارهای جدید برای بررسی، کنترل و افزایش ایمنی آنها است. اگر این مسیر پژوهشی ادامه پیدا کند، در آینده می توان انتظار داشت که مدل های هوش مصنوعی شفاف تر، قابل اعتمادتر و قابل کنترل تر از امروز شوند.