هوش مصنوعی قرار بود بسیاری از کارهای پیچیده را ساده تر کند، اما همزمان پرسش مهم تری را پیش روی جامعه گذاشته است: اگر ماشین ها روزبه روز در تصمیم گیری های اجتماعی و سیاسی نقش بیشتری پیدا کنند، چه کسی مسئول تصمیم نهایی خواهد بود؟
جیل لپور، مورخ و استاد دانشگاه هاروارد، در کتاب جدید خود با عنوان «ظهور و سقوط دولت مصنوعی» به همین مسئله پرداخته است. این کتاب که در ۲۵ اوت ۲۰۲۶ منتشر شده، ادامه بحثی است که لپور پیش تر در مقاله ای در نشریه نیویورکر مطرح کرده بود.
نگرانی اصلی او صرفا درباره خود هوش مصنوعی نیست؛ مسئله، تمرکز قدرت، وابستگی جامعه به سامانه های دیجیتال و انتقال تدریجی بخشی از تصمیم گیری های عمومی به فناوری هایی است که عمدتا توسط شرکت های خصوصی طراحی و کنترل می شوند.
«دولت مصنوعی» از نظر جیل لپور چیست؟
اصطلاح «دولت مصنوعی» در نگاه لپور به معنای حکومتی نیست که در آن ربات ها جای رئیس جمهور، نمایندگان مجلس یا کارمندان دولت را گرفته باشند. منظور او ساختاری گسترده تر است که در آن تصمیم گیری و اداره بخش هایی از زندگی عمومی به وسیله رایانه ها، الگوریتم ها، داده ها و سامانه های خودکار انجام می شود.
لپور معتقد است این روند از امروز شروع نشده است. او ریشه های آن را در چند دهه گذشته دنبال می کند و نشان می دهد که چگونه فناوری به تدریج وارد فرایندهای سیاسی و عمومی شده است.
- بخشی از فعالیت های سیاسی با استفاده از داده ها و الگوریتم ها هدف گذاری می شوند.
- پلتفرم های دیجیتال نقش مهمی در توزیع اخبار و اطلاعات سیاسی دارند.
- الگوریتم ها می توانند تعیین کنند چه محتوایی بیشتر دیده شود و چه محتوایی کمتر در معرض دید کاربران قرار بگیرد.
- بسیاری از خدمات عمومی و تجاری نیز به تدریج به سامانه های خودکار و هوش مصنوعی وابسته شده اند.
در چنین شرایطی، پرسش اصلی این نیست که «آیا هوش مصنوعی تصمیم می گیرد؟» بلکه این است که «چه کسی قواعد تصمیم گیری هوش مصنوعی را تعیین می کند؟»
چرا لپور از انتقال قدرت به شرکت های فناوری نگران است؟
مسئله زمانی جدی تر می شود که زیرساخت های مورد استفاده میلیون ها نفر در اختیار تعداد محدودی از شرکت های بزرگ قرار داشته باشد. در این شرایط، شرکت های فناوری فقط ارائه دهنده یک ابزار ساده نیستند و می توانند به واسطه ای میان شهروندان، اطلاعات و نهادهای عمومی تبدیل شوند.
لپور در آثار خود بر این نکته تاکید دارد که وقتی زندگی عمومی بیش از اندازه به زیرساخت های خصوصی و الگوریتمی وابسته شود، مرز میان قدرت اقتصادی و قدرت سیاسی نیز می تواند کمرنگ تر شود.
- شبکه های اجتماعی می توانند بر نحوه دیده شدن اخبار و دیدگاه های سیاسی اثر بگذارند.
- الگوریتم های توصیه محتوا می توانند توجه کاربران را به موضوعات خاص هدایت کنند.
- شرکت های فناوری اطلاعات گسترده ای درباره کاربران در اختیار دارند.
- سامانه های خودکار می توانند در تصمیم هایی مانند رتبه بندی، پیش بینی یا اولویت بندی افراد و محتوا نقش داشته باشند.
هوش مصنوعی چگونه می تواند این روند را سریع تر کند؟
هوش مصنوعی توانایی پردازش حجم عظیمی از داده ها و تولید پاسخ یا پیشنهاد در مدت بسیار کوتاه را دارد. همین ویژگی باعث شده است استفاده از آن در حوزه هایی مانند ارتباطات، تحلیل داده، تبلیغات، خدمات مشتری و حتی فرایندهای سیاسی افزایش پیدا کند.
اما سرعت و مقیاس بالا لزوما به معنای تصمیم گیری بهتر نیست. هر الگوریتمی بر اساس داده، هدف و قواعدی ساخته می شود که انسان ها تعیین کرده اند.
- چت بات ها می توانند به یکی از منابع دریافت اطلاعات سیاسی تبدیل شوند.
- هوش مصنوعی می تواند برای تولید حجم زیادی از محتوای سیاسی و تبلیغاتی استفاده شود.
- تحلیل داده می تواند برای شناخت رفتار و ترجیحات کاربران به کار رود.
- سامانه های خودکار می توانند در اولویت بندی و پیش بینی رفتار افراد نقش داشته باشند.
به همین دلیل، مسئله فقط دقت هوش مصنوعی نیست. شفافیت، مالکیت داده، امکان اعتراض به تصمیم های خودکار و مشخص بودن مسئولیت انسانی نیز اهمیت دارند.
آیا توسعه هوش مصنوعی واقعا اجتناب ناپذیر است؟
یکی از انتقادهای مهم لپور متوجه چیزی است که می توان آن را «جبرگرایی فناورانه» نامید. بر اساس این دیدگاه، فناوری مسیری مشخص دارد و جامعه در نهایت مجبور است خود را با آن هماهنگ کند.
لپور با این تصور مخالفت می کند. از نگاه او، فناوری نتیجه انتخاب های انسانی، اقتصادی و سیاسی است و می توان درباره نحوه طراحی، استفاده و مقررات آن تصمیم گرفت.
- یک فناوری می تواند با قوانین متفاوت، نتایج متفاوتی ایجاد کند.
- نحوه مالکیت زیرساخت های دیجیتال بر توزیع قدرت اثر می گذارد.
- مقررات می توانند شرکت ها را نسبت به پیامدهای فناوری پاسخگوتر کنند.
- جامعه می تواند درباره استفاده از هوش مصنوعی در حوزه های حساس محدودیت یا الزامات مشخص تعیین کند.
آیا فناوری و هوش مصنوعی همیشه به دموکراسی کمک می کند؟
در سال های گذشته، فناوری های دیجیتال اغلب به عنوان ابزارهایی برای افزایش دسترسی مردم به اطلاعات و مشارکت سیاسی معرفی می شدند. اما تجربه شبکه های اجتماعی نشان داده است که فناوری می تواند همزمان فرصت و تهدید ایجاد کند.
لپور در مقاله «دولت مصنوعی» توضیح می دهد که اتکای فزاینده به الگوریتم ها در زندگی عمومی با کاهش اعتماد به نهادهای دولتی و افزایش قطبی شدن سیاسی همراه شده است.
- دسترسی سریع به اطلاعات می تواند مشارکت عمومی را افزایش دهد.
- اما حجم بالای اطلاعات نادرست نیز می تواند تشخیص واقعیت را دشوارتر کند.
- الگوریتم ها می توانند محتوای جذاب تر و احساسی تر را بیشتر در معرض دید قرار دهند.
- شخصی سازی محتوا ممکن است باعث شود افراد بیشتر در معرض دیدگاه های مشابه خود قرار بگیرند.
بنابراین، فناوری به خودی خود دموکراتیک یا ضد دموکراتیک نیست. نتیجه آن به ساختار قدرت، قوانین، طراحی سامانه ها و میزان پاسخگویی کسانی بستگی دارد که این فناوری ها را کنترل می کنند.
خطر اصلی چیست؛ هوش مصنوعی یا تمرکز قدرت؟
یکی از مهم ترین نکات در بحث لپور این است که نگرانی اصلی را نباید فقط به «هوشمند شدن ماشین ها» محدود کرد. مسئله عمیق تر، تمرکز قدرت در دست گروه محدودی از شرکت ها و افرادی است که زیرساخت های فناوری را در اختیار دارند.
در کتاب جدید لپور نیز تاکید می شود که داستان «دولت مصنوعی» فقط داستان آینده نیست. او ریشه های آن را در تاریخ طولانی استفاده از فناوری، داده و محاسبات برای اداره جامعه دنبال می کند و معتقد است این روند می تواند ظرفیت انسان ها برای خودگردانی را تضعیف کند.
- چه کسی داده ها را جمع آوری و کنترل می کند؟
- چه کسی قواعد الگوریتم را تعیین می کند؟
- اگر یک سامانه خودکار تصمیم اشتباهی بگیرد، چه کسی پاسخگو است؟
- آیا شهروندان امکان اعتراض به تصمیم های الگوریتمی را دارند؟
- اگر یک شرکت خصوصی زیرساختی حیاتی را کنترل کند، چه سازوکاری برای نظارت عمومی وجود دارد؟
این پرسش ها نشان می دهند بحث درباره هوش مصنوعی فقط بحثی فنی نیست. موضوع به سیاست، اقتصاد، حقوق، آزادی های مدنی و حتی مفهوم شهروندی مربوط می شود.
آیا «دولت مصنوعی» قابل جلوگیری است؟
لپور برخلاف تصویری که ممکن است از یک آینده کاملا تحت سلطه ماشین ها به ذهن برسد، این روند را اجتناب ناپذیر نمی داند. عنوان کتاب او نیز به جای «ظهور دولت مصنوعی» صرفا بر ظهور، بلکه بر «ظهور و سقوط» آن تاکید دارد.
در واقع، پیام اصلی او این است که جامعه هنوز درباره مسیر فناوری قدرت انتخاب دارد.
- افزایش شفافیت در عملکرد سامانه های هوش مصنوعی می تواند به نظارت عمومی کمک کند.
- حفاظت از داده های شخصی می تواند از تمرکز بیش از اندازه اطلاعات جلوگیری کند.
- تعیین مسئولیت حقوقی برای تصمیم های خودکار اهمیت زیادی دارد.
- نهادهای عمومی باید توانایی نظارت بر فناوری های مورد استفاده در حوزه های حساس را حفظ کنند.
- تصمیم های مهم اجتماعی و سیاسی نباید صرفا به دلیل سرعت یا کارایی، بدون نظارت انسانی به ماشین ها واگذار شوند.
جمع بندی
هشدار جیل لپور را می توان بیش از آنکه پیش بینی نابودی دموکراسی به دست هوش مصنوعی دانست، یک هشدار درباره رابطه میان فناوری و قدرت در نظر گرفت. او نمی گوید هر الگوریتم یا هر ابزار هوش مصنوعی ذاتا خطرناک است؛ مسئله زمانی شکل جدی تری پیدا می کند که جامعه بدون بحث عمومی، نظارت و سازوکار پاسخگویی، بخش های بیشتری از زندگی خود را به سامانه هایی بسپارد که قواعد آنها را گروه محدودی تعیین می کنند.
هوش مصنوعی می تواند ابزار قدرتمندی برای افزایش بهره وری، دسترسی به اطلاعات و حل مسائل پیچیده باشد. اما اینکه این قدرت در نهایت به نفع جامعه استفاده شود یا به تمرکز بیشتر قدرت منجر شود، نتیجه ای از پیش تعیین شده نیست.
سوال مهم آینده احتمالا این نخواهد بود که «آیا ماشین ها می توانند بهتر از انسان تصمیم بگیرند؟» بلکه این خواهد بود که چه کسی حق دارد تصمیم بگیرد، چه کسی بر ماشین نظارت می کند و چه کسی در برابر نتیجه آن پاسخگو است؟