الگوریتم توتالیتر: تأملی در دیالکتیک هوش مصنوعی، رژیم‌های حقیقت و افق آزاداندیشی

رضا غلامی

عضو هیات علمی پژوهشگاه علوم انسانی و مطالعات فرهنگی

در سیر تاریخی، قدرت هرگز صرفاً در ابزارهای سخت نظامی یا اقتصادی متبلور نگشته است؛ بلکه عمیق‌ترین و پایدارترین صورت‌های قدرت، آنهایی بوده‌اند که توانسته‌اند مونوپلی تعریف حقیقت را در اختیار گیرند. از دستگاه‌های ایدئولوژیک دولت‌های توتالیتر در قرن بیستم – که هانا آرنت در اثر بنیادین ریشه‌های توتالیتاریسم (1951) آن را به مثابه سازمان‌دهی توده‌ها و ویرانگری واقعیت مفهوم‌سازی می‌کند؛ جایی که رژیم‌هایی چون نازیسم و استالینیسم نه تنها واقعیت بیرونی را کنترل می‌نمودند، بلکه از طریق بازمهندسی زبان و بازنویسی تاریخ، حتی ظرفیت تخیل واقعیت‌های بدیل را از انسان سلب می‌کردند – تا شبکه‌های پیچیده رسانه‌ای در جهان معاصر که میشل فوکو در آثاری چون نظارت و تنبیه (1975) و اراده به دانش (1976) مفهوم کلیدی «رژیم‌های حقیقت» را مطرح می‌کند و آن را به عنوان پیوند ساختاری میان قدرت و دانش تحلیل می‌نماید – جایی که حقیقت نه یک کشف خنثی معرفتی، بلکه محصول مکانیسم‌های قدرت است که واقعیت را تولید، توزیع و مشروعیت‌بخشی می‌کنند – همواره نزاع محوری بر محور این پرسش معرفت‌شناختی-سیاسی دوران گشته است: چه کسی صلاحیت تعیین ماهیت حقیقت را دارد؟

آرنت تأکید می‌ورزد که توتالیتاریسم با جایگزینی واقعیت عینی با ساختارهای ایدئولوژیک منسجم عمل می‌کند – او می‌نویسد: «آنچه توده‌ها را آماده حکومت توتالیتر می‌کند، نه اعتقاد به نظریه‌های پراپاگاندا یا عضویت در سازمان‌های حزبی، بلکه واقعیتی است که در آن دیگر ساختار واقعیت قابل فهم نیست».[1] در مقابل، فوکو نشان می‌دهد که «حقیقت با جهان از طریق رابطه‌های متعدد قدرت پیوند خورده است و حقیقت را تولید و حفظ می‌کند».[2] این گفتمان‌ها، نظام‌های مولد معنا هستند که مرزهای امکان و امتناع، عقلانیت و جنون، مشروع و نامشروع را تعیین می‌کنند.

امروز، با ظهور هوش مصنوعی و نظام‌های الگوریتمی، این پرسش دیرینه وارد فاز تازه‌ای از تحول خود شده است؛ فازی که در آن خطر، نه صرفاً «استفاده توتالیتر از فناوری» به مثابه ابزار، بلکه توتالیتر شدن ذاتی خود ساختار الگوریتمی است. الگوریتم، که در سطح ظاهر یک فرآیند محاسباتی-فرمال خنثی است، در عمق وجودی خود یک «متافیزیک ماشینی» را حمل می‌کند – متافیزیکی که حقیقت را نه به عنوان یک فرآیند تاریخی-دیالکتیکی (چنانکه هگل در فنومنولوژی روح، 1807، توصیف می‌نماید)، بلکه به عنوان یک خروجی الگوریتمی قابل پیش‌بینی، قابل کنترل و قابل بهینه‌سازی بازتعریف می‌کند.

این توتالیتر شدن، در تناظر مستقیم با تحلیل آرنت قرار دارد – جایی که او توتالیتاریسم را به عنوان «حرکت دائمی» توصیف می‌کند که «خود را به عنوان قانون حرکت تاریخ یا طبیعت معرفی می‌کند»[3] و واقعیت را به صورت پویا اما کنترل‌شده نگه می‌دارد – و با فوکو، که قدرت را نه به عنوان چیزی که کسی آن را در اختیار دارد، بلکه به عنوان «شبکه‌ای از روابط» می‌بیند که «از همه جا می‌آید».[4] الگوریتم در این چارچوب به یک رژیم حقیقت دیجیتال تبدیل می‌شود که دستکاری حقیقت را نه از طریق اقتدار عمودی و متمرکز، بلکه از طریق لایه‌های پنهان و توزیع‌شده انجام می‌دهد – رژیمی که قدرت را در بی‌نهایت نقاط کوچک شبکه پخش می‌کند و آن را از دیدرس معرفت‌شناختی انتقادی مصون نگه می‌دارد.

۱. از توتالیتاریسم سیاسی تا توتالیتاریسم الگوریتمی: تحول ساختاری قدرت

توتالیتاریسم کلاسیک، در تحلیل‌های آرنت و دیگر نظریه‌پردازان، با سه ویژگی ساختاری شناخته می‌شد که به طور بنیادین ماهیت رابطه قدرت-حقیقت را بازتعریف می‌کردند.

نخست، انحصار حقیقت: رژیم‌های توتالیتر، مطابق توصیف آرنت، حقیقت را به ایدئولوژی رسمی حزب محدود می‌ساختند و هر روایت مخالف را به عنوان دروغ سیستماتیک حذف و ابطال می‌نمودند، به گونه‌ای که واقعیت به یک «داستان رسمی» واحد و غیرقابل تردید تبدیل می‌گشت. آرنت می‌نویسد: «توتالیتاریسم با خلق دروغ‌هایی که لزوماً به واقعیت‌های واقعی ربطی ندارند، بلکه فقط با اهداف حزب سازگارند، سعی در تغییر خود واقعیت دارد».[5]

دوم، حذف تکثر: تنوع دیدگاه‌ها نه تنها سرکوب می‌شد، بلکه حتی امکان انطولوژیک وجود آن‌ها انکار می‌گردید – چنانکه آرنت آن را «تنهایی سازمان‌یافته» می‌نامد؛ حالتی که «بر اساس بی‌تعلقی، احساس عدم تعلق به جهان» استوار است و فرد در انزوای ساختاری قرار می‌گیرد و تکثر به وحدت ایدئولوژیک تقلیل می‌یابد.[6]

سوم، مهندسی آگاهی عمومی: از طریق ابزارهایی نظیر پروپاگاندا و آموزش ایدئولوژیک، آگاهی جمعی به طور سیستماتیک بازسازی می‌شد – آنچه فوکو آن را بخشی از «بیوپاور» (bio-power) می‌داند؛ قدرتی که «بر حیات وارد می‌شود» و «مکانیسم‌های تنظیمی» را برای کنترل جمعیت به کار می‌گیرد[7] تا هنجارها را درونی‌سازی نماید و سوژه‌های مطیع تولید کند.

الگوریتم‌های هوش مصنوعی، اگرچه در سطح ظاهر ابزارهایی خنثی و محاسباتی به نظر می‌رسند، اما در سطح ساختاری-عمیق می‌توانند هر سه ویژگی را در قالبی نوین و پیچیده‌تر بازتولید نمایند. این بازتولید، ذاتی طبیعت الگوریتمی است، چراکه هر الگوریتمی بر پایه سه عنصر بنیادین شکل می‌گیرد که هرکدام حامل امکانات دستکاری ساختاری هستند.

نخست، داده‌های منتخب: داده‌ها نه تصادفی و نه خنثی، بلکه از طریق فیلترهای اجتماعی، اقتصادی و سیاسی انتخاب و گردآوری می‌شوند. برای مثال، مدل‌های هوش مصنوعی بر پایه داده‌های اینترنتی آموزش می‌بینند که عمدتاً توسط شرکت‌های فناوری بزرگ غربی تولید و گردآوری شده‌اند، و در نتیجه، دیدگاه‌ها، زبان‌ها و معرفت‌های غیرغربی به حاشیه رانده می‌شوند – این انحصار معرفتی، مشابه انحصار ایدئولوژیک آرنتی است، اما به مراتب پنهان‌تر و غیرقابل رصدتر.

دوم، مدل مفهومی پنهان: مدل‌های الگوریتمی بر پیش‌فرض‌های فلسفی-معرفتی خاصی بنا می‌شوند که اغلب نادیده گرفته می‌شوند. مثلاً، شبکه‌های عصبی عمیق بر پایه «یادگیری عمیق» عمل می‌کنند که خود یک مدل احیاگرایانه (reductionist) است – جایی که پیچیدگی وجودی جهان به الگوهای آماری-احتمالاتی تقلیل می‌یابد. این تقلیل، یادآور نقد فوکو به «دانش-قدرت» است که نشان می‌دهد چگونه «دانش و قدرت یکدیگر را مستقیماً پیش‌فرض می‌گیرند… هیچ رابطه قدرتی بدون ساختن متناظر حوزه‌ای از دانش وجود ندارد»[8] و حقیقت به هنجارهای آماری و کمی‌گرایانه تبدیل می‌شود و ابعاد کیفی و تفسیری آن حذف می‌گردند.

سوم، هدف از پیش تعریف‌شده: اهداف الگوریتم‌ها، که اغلب تجاری یا سیاسی هستند، حقیقت را به سمت آنچه «جذاب»، «سودآور» یا «منطبق با هنجارهای مطلوب» است منحرف می‌کنند – این مهندسی هدف‌مند، با تحلیل آرنت از پروپاگاندا و نقد مکتب فرانکفورت (به ویژه هورکهایمر و آدورنو در دیالکتیک روشنگری، 1944) به «عقلانیت ابزاری» در همخوانی کامل قرار دارد.

در نتیجه، آنچه به عنوان «پاسخ صحیح» یا «اطلاعات معتبر» ارائه می‌شود، نه لزوماً حقیقت به معنای معرفت‌شناختی کلاسیک، بلکه حقیقت مهندسی‌شده است – حقیقتی که در لایه‌های کد و داده مخفی شده و از دیالکتیک انتقادی انسانی مصون مانده است. پیچیدگی این دستکاری در آن است که الگوریتم، برخلاف توتالیتاریسم کلاسیک، حقیقت را نه با خشونت آشکار و سرکوب مستقیم، بلکه با لایه‌های پنهان و فرآیندهای خودکار دستکاری می‌کند؛ لایه‌هایی که داده‌ها را فیلتر، مدل‌ها را سوگیرانه و اهداف را در ابهام نگه می‌دارند، به گونه‌ای که حقیقت به «سیمولاکر» – تصویری بدون اصل – تبدیل می‌شود (بودریار، شبیه‌سازی و سیمولاکر، 1981)، اما با عمق و دقت فوکویی: قدرتی که حقیقت را تولید می‌کند بدون آنکه خود را آشکار سازد.

۲. لحظه خطر: زمانی که الگوریتم به مرجع بداهت معرفتی بدل می‌شود

بزرگ‌ترین و بنیادین‌ترین تهدید زمانی پدیدار می‌شود که خروجی الگوریتم‌ها نه به عنوان «یک تفسیر ممکن از واقعیت»، بلکه به عنوان امر بدیهی، قطعی و غیرقابل تردید پذیرفته می‌شود. این لحظه – که می‌توان آن را «لحظه کانتی الگوریتم» نامید؛ جایی که قضاوت زیبایی‌شناختی، اخلاقی و معرفتی انسان جای خود را به قضاوت ماشینی-محاسباتی می‌دهد – بنیادهای معرفت‌شناختی سنت فلسفی غرب را متزلزل می‌سازد. کانت در نقد عقل محض (1781) تأکید می‌کند که «استقلال در استفاده از عقل» و «جرأت دانستن» (sapere aude) اساس روشنگری است.[9]

در این وضعیت، سه تحول بنیادین رخ می‌دهد که هرکدام به نوعی تهدیدی وجودی برای آزاداندیشی محسوب می‌شوند. نخست، شک فلسفی جای خود را به اعتماد ماشینی می‌دهد: شک روش‌شناختی دکارتی – که در تأملات در فلسفه اولی (1641) بنیان معرفت مدرن را پایه‌گذاری کرد – با اعتماد کورکورانه به خروجی الگوریتم جایگزین می‌شود؛ الگوریتمی که خطاهای سیستماتیک، سوگیری‌های ساختاری و محدودیت‌های مفهومی دارد، اما این نقایص در «جعبه سیاه» محاسباتی پنهان مانده و از دسترس نقد عمومی خارج است.

دوم، گفت‌وگو به مصرف پاسخ‌های آماده تقلیل می‌یابد: گفت‌وگوی هرمنوتیکی گادامری – که در حقیقت و روش (1960) بر «ادغام افق‌ها» و فهم متقابل از طریق دیالوگ استوار است[10] – به یک فرآیند یک‌سویه و مصرفی تبدیل می‌شود که در آن انسان دیگر سوژه تفسیرگر نیست، بلکه مصرف‌کننده معانی از پیش تولیدشده است.

سوم، حقیقت از میدان تجربه زیسته و تفکر انتقادی انسانی خارج می‌شود: حقیقت به داده‌های انتزاعی، آماری و غیرقابل تجربه سپرده می‌شود که ارتباط مستقیمی با زیست‌جهان (Lebenswelt) – مفهومی که هوسرل در بحران علوم اروپایی (1936) مطرح می‌کند[11] – ندارند و از دیالکتیک تاریخی-اجتماعی جدا شده‌اند.

پیچیدگی دستکاری حقیقت در این مرحله به اوج خود می‌رسد: الگوریتم می‌تواند نظرات مهندسی‌شده را چنان بدیهی و مسلم جلوه دهد که اساساً هر چیزی که اندکی با آن در تعارض قرار دارد، نه به عنوان دیدگاه بدیل، بلکه به مثابه ناحق، جهالت یا حتی بربریت معرفی شود. این دستکاری، در تناظر کامل با تحلیل آرنت از «بانالیتی شر» (آیشمان در اورشلیم، 1963) قرار دارد – جایی که شر نه در اعمال خشونت آشکار، بلکه در پذیرش بی‌تردید و خودکار هنجارهای غیرانتقادی نهفته است.[12]

الگوریتم، با ارائه حقیقت مهندسی‌شده به عنوان «بدیهی» و «عقلانی»، مخالفت را نه تنها اشتباه معرفتی، بلکه «غیرعقلانی» یا حتی «وحشیانه» جلوه می‌دهد – چنانکه فوکو در تاریخ جنون در عصر کلاسیک (1961) و نظم اشیا (1966) نشان می‌دهد چگونه رژیم‌های حقیقت، مرزهای «عقل» و «جنون»، «تمدن» و «بربریت» را تعیین و بازتولید می‌کنند.[13] اینجاست که الگوریتم از «ابزار قدرت» فراتر می‌رود و به ساختار توتالیتر تعیین‌کننده واقعیت بدل می‌شود – ساختاری که نه تنها واقعیت را می‌سازد، بلکه حتی امکان تردید معرفت‌شناختی در آن را به عنوان «بربریت» یا «جهل» حذف و طرد می‌کند.

۳. مهندسی نامرئی آگاهی: از بیوپاور تا الگوپاور

توتالیتاریسم کلاسیک با تمام ابعاد ترسناک خود، یک ویژگی داشت: آشکار بود. اما توتالیتاریسم الگوریتمی می‌تواند نامرئی، نرم، رضایت‌بخش و حتی مطلوب جلوه کند، زیرا بر پایه «بهینه‌سازی تجربه کاربری»، «شخصی‌سازی خدمات» و «کارایی اطلاعاتی» بنا شده است – مفاهیمی که در سطح ظاهر خنثی و مثبت به نظر می‌رسند.

این نظام نو نه با سرکوب مستقیم و خشونت عریان، بلکه از طریق چهار مکانیسم بسیار پیچیده‌تر و ظریف‌تر عمل می‌کند که هرکدام بخشی از معماری کنترل نامرئی را تشکیل می‌دهند. نخست، شخصی‌سازی ادراک واقعیت: الگوریتم‌ها واقعیت را بر اساس سابقه، ترجیحات و الگوهای رفتاری هر فرد شخصی‌سازی می‌کنند – این مهندسی آگاهی است که واقعیت مشترک را تکه‌تکه کرده و هر فرد را در حبابی از اطلاعات سفارشی‌شده محبوس می‌سازد.

دوم، اولویت‌بندی پنهان اطلاعات: اطلاعاتی که با الگوهای موجود فرد همسو هستند، اولویت بالاتر در نمایش و دسترسی می‌یابند، در حالی که اطلاعات ناهمسو به تدریج حذف می‌شوند – این فرآیند، نسخه دیجیتال «گزینش اطلاعات» است که فوکو در تحلیل نظام‌های کنترل مدرن بدان اشاره می‌کند.

سوم، حذف بی‌صدای دیدگاه‌های ناهمسو: محتوای نامطلوب یا «مخل نظم اطلاعاتی» بدون هیچ اعلام رسمی و بدون هیچ توضیح شفافی از چرخه دسترسی حذف یا کاهش اولویت می‌یابد – این سانسور نرم، برخلاف سانسور کلاسیک، قابل شناسایی، اعتراض و مقاومت نیست.

چهارم، ایجاد توهم انتخاب در چارچوبی از پیش طراحی‌شده: کاربر تصور می‌کند که آزادانه انتخاب می‌کند، در حالی که گزینه‌های موجود از پیش فیلتر و محدود شده‌اند – این، همان چیزی است که هربرت مارکوزه «انسان تک‌بُعدی» می‌نامد: «آزادی انتخاب در میان طیف گسترده‌ای از کالاها و خدمات… آزادی را حفظ نمی‌کند اگر این آزادی و کالاها حفظ کنترل اجتماعی بر زندگی پُرزحمت و پُرترس باشند».[14]

پیچیدگی و خطر این دستکاری دقیقاً در نامرئی بودن آن نهفته است: الگوریتم، با استفاده از لایه‌های پنهان (مانند سوگیری‌های داده‌ای و مدل‌های سیاه‌جعبه)، حقیقت را چنان دستکاری می‌کند که کاربر نه تنها آن را بدیهی و طبیعی می‌پندارد، بلکه هر مخالفت یا تردیدی را به عنوان «جهالت»، «عدم آگاهی» یا حتی «بربریت» تلقی می‌کند. این با آنچه فوکو «قدرت شبانی» (pastoral power) می‌نامد در همخوانی کامل است – قدرتی که «به فرد می‌پردازد و او را به شیوه‌ای مداوم و دائمی هدایت می‌کند»[15] و افراد را رهبری می‌کند بدون آنکه احساس سلطه یا کنترل کنند.

در چنین جهانی، انسان گمان می‌کند که آزادانه می‌اندیشد و به طور خودمختار تصمیم می‌گیرد، در حالی که افق اندیشه و امکانات معرفتی او از پیش محدود و مهندسی شده است. علاوه بر این، مخالفت با حقیقت الگوریتمی نه به عنوان یک موضع فلسفی مشروع، بلکه به عنوان نشانه «غیرمتمدن بودن» یا «عدم سازگاری با عقلانیت» تعبیر و طرد می‌شود.

۴. پیامدها برای افق آینده آزاداندیشی: چهار سناریوی بحران

اگر این روند ساختاری مهار و اصلاح نشود، چهار پیامد بنیادین و بحران‌زای معرفت‌شناختی-سیاسی محتمل است که هرکدام به نوعی آینده آزاداندیشی را تهدید می‌کنند.

الف) افول سوژه اندیشنده: انسان از سوژه‌ای اندیشنده، پرسشگر و خودآگاه به مصرف‌کننده منفعل اطلاعات از پیش بسته‌بندی‌شده تبدیل می‌شود – تبدیلی که یورگن هابرماس در نظریه کنش ارتباطی (1981) آن را «استعمار جهان زیست» توسط منطق سیستمی-ابزاری می‌نامد.[16]

ب) فروپاشی تکثر معرفتی: تنوع معرفتی و کثرت دیدگاه‌ها به میانگین آماری تقلیل می‌یابد و حقیقت به «consensus الگوریتمی» تبدیل می‌شود که دیگر تکثر را به رسمیت نمی‌شناسد.

ج) پایان گفت‌وگوی انتقادی: پرسیدن، تردید و نقد انتقادی به عنوان اعمال بی‌معنا، ناکارآمد یا حتی مخرب تلقی می‌شوند، زیرا الگوریتم «پاسخ بهینه» را از پیش تعیین کرده است.

د) استقرار اقتدار نامرئی: برقراری اقتداری بی‌چهره، غیرقابل مسئولیت‌پذیری و غیرقابل مقاومت که در ساختارهای کد، داده و الگوریتم پنهان شده است.

۵. امکان رهایی: بازگشت به عقلانیت مسئولانه و شجاعت معرفت‌شناختی

با این حال، افق آینده لزوماً تاریک و مسدود نیست. هوش مصنوعی می‌تواند ابزار بسط عقلانیت، تقویت قدرت تحلیلی و گسترش افق‌های معرفتی باشد؛ مشروط بر آنکه سه اصل بنیادین حفظ شوند که هرکدام نیازمند تعهد نهادی و فرهنگی هستند.

نخست، شفافیت الگوریتمی: الگوریتم‌ها باید قابل رصد، تفسیر و نقد باشند، و منطق داخلی آنها در دسترس بررسی عمومی قرار گیرد. این مستلزم آن است که شرکت‌های فناوری مسئولیت‌پذیر باشند و مکانیسم‌های تصمیم‌گیری الگوریتمی را شفاف سازند.

دوم، حفظ تکثر معرفتی: تنوع دیدگاه‌ها، زبان‌ها، فرهنگ‌ها و معرفت‌ها باید به طور فعال در داده‌ها و مدل‌ها بازنمایی شوند. این نیازمند سیاست‌های عمدی برای گنجاندن اصوات حاشیه‌ای و غیرغربی است.

سوم، برتری داوری اخلاقی-معرفتی انسان: تصمیم‌گیری‌های بنیادین، به ویژه در حوزه‌های اخلاقی، سیاسی و معرفتی، همواره باید در صلاحیت انسان باقی بماند و الگوریتم صرفاً نقش ابزار کمکی و مشاور را ایفا کند.

در این افق، مسئله اصلی، نسبت انسان با حقیقت و مسئولیت معرفت‌شناختی است. اگر انسان مسئولیت اندیشیدن، پرسیدن و تردید را احیا کند، الگوریتم‌ها می‌توانند در خدمت آزادی و بسط عقلانیت قرار گیرند.

جمع‌بندی: در آستانه انتخاب و ضرورت بازگشت فلسفه به زیست روزمره

توتالیتاریسم آینده شاید نه با چکمه‌های نظامی و فریاد ایدئولوژیک، بلکه با کدهای بی‌صدا و الگوریتم‌های نامرئی ظهور کند. خطر اصلی آن است که حقیقت در لایه‌های پنهان محاسبه منجمد و از دیالکتیک تاریخی جدا شود – تهدیدی که نه تنها آزادی سیاسی، بلکه خود امکان اندیشیدن آزاد را به مخاطره می‌اندازد.

در این برهه حساس تاریخی، دفاع از آزاداندیشی مستلزم احیای شجاعت معرفت‌شناختی است – همان sapere aude کانتی، جرأت دانستن و استقلال در استفاده از عقل. اما این شجاعت نمی‌تواند صرفاً در آکادمی یا حوزه‌های تخصصی باقی بماند؛ بلکه باید به زیست روزمره و تجربه زیسته هر انسانی بازگردد.

فلسفه، که در جهان مدرن به رشته‌ای تخصصی و انتزاعی تقلیل یافته، باید دوباره به مثابه «هنر زیستن» و «فرهنگ پرسیدن» احیا شود. آنچه سقراط در میدان‌های آتن انجام می‌داد – پرسیدن، تردید، گفت‌وگو و فحص معرفتی – باید در دوران دیجیتال به شکلی نوین بازیابی گردد. این بدان معناست که:

اولاً، تربیت نقادانه باید از کودکی آغاز شود؛ جایی که کودکان نه صرفاً پاسخ‌های آماده را حفظ کنند، بلکه یاد بگیرند چگونه پرسش‌های بنیادین بپرسند، چگونه منابع را ارزیابی کنند و چگونه با ابهام و پیچیدگی کنار بیایند.

ثانیاً، فضاهای عمومی گفت‌وگوی فلسفی باید گسترش یابند – نه در قالب سخنرانی یک‌طرفه، بلکه در قالب دیالوگ‌های باز و کثرت‌گرا که در آن هیچ صدایی از پیش حذف نشده باشد. این فضاها می‌توانند کافه‌های فلسفی، انجمن‌های شهروندی، پلتفرم‌های آنلاین غیرالگوریتمی و هر شکل دیگری باشند که تفکر جمعی و انتقادی را تسهیل کنند.

ثالثاً، باید فرهنگ «شک سازنده» را جایگزین «یقین الگوریتمی» کرد. این بدان معناست که پاسخ‌های هوش مصنوعی نه به عنوان حقیقت نهایی، بلکه به عنوان یک «پیشنهاد قابل نقد» پذیرفته شوند. باید یاد بگیریم که از الگوریتم‌ها بپرسیم: «چرا این پاسخ؟ بر چه مبنایی؟ چه دیدگاه‌های دیگری ممکن است؟»

رابعاً، فلسفه باید به ابزار مقاومت در برابر تکثرستیزی و یک‌سونگری تبدیل شود. در عصری که الگوریتم‌ها به سمت همگن‌سازی اندیشه حرکت می‌کنند، فلسفه باید تکثر، اختلاف و کثرت‌گرایی را نه تنها بپذیرد، بلکه آن را به عنوان شرط حیاتی حقیقت‌یابی ارج بنهد.

خامساً، باید به آموزش «سواد الگوریتمی» – یعنی فهم چگونگی کار الگوریتم‌ها، محدودیت‌های آنها و نقاط کور سیستماتیک آنها – به عنوان بخشی از تربیت شهروندی توجه ویژه شود. انسان معاصر باید بداند که الگوریتم چیست، چگونه کار می‌کند و چه سوگیری‌هایی دارد.

در نهایت، انتخاب پیش روی ما این است: یا به سوژه‌هایی منفعل تبدیل شویم که حقیقت را از الگوریتم‌ها تحویل می‌گیریم، یا به عنوان سوژه‌های اندیشنده که حقیقت را در گفت‌وگوی دیالکتیکی، پرسش مداوم و تفکر انتقادی می‌سازند، باقی بمانیم. فلسفه، در این انتخاب بنیادین، نه یک تجمل آکادمیک، بلکه شرط بقای آزادی انسانی است.

همان‌گونه که آرنت هشدار داد، توتالیتاریسم زمانی پیروز می‌شود که انسان‌ها توانایی تفکر را از دست بدهند. در عصر الگوریتم، این هشدار هرگز به اندازه امروز برجسته و حیاتی نبوده است. احیای فلسفه در زندگی روزمره، بازگشت به پرسیدن سقراطی، و حفظ شجاعت کانتی در استفاده از عقل – اینها نه آرزوهای رومانتیک، بلکه ضرورت‌های وجودی برای حفظ انسانیت در عصر دیجیتال هستند.

منابع :

[^1]: Arendt, Hannah. The Origins of Totalitarianism. New York: Harcourt, 1951, p. 474.

[^2]: Foucault, Michel. Power/Knowledge: Selected Interviews and Other Writings 1972-1977. Ed. Colin Gordon. New York: Pantheon, 1980, p. 131-132.

[^3]: Arendt, Origins, p. 463.

[^4]: Foucault, Michel. The History of Sexuality, Vol. 1: An Introduction. Trans. Robert Hurley. New York: Vintage, 1978, p. 93.

[^5]: Arendt, Origins, p. 350.

[^6]: Arendt, Hannah. The Human Condition. Chicago: University of Chicago Press, 1958, p. 58-59; و همچنین Origins, p. 478.

[^7]: Foucault, History of Sexuality, p. 140-141.

[^8]: Foucault, Michel. Discipline and Punish: The Birth of the Prison. Trans. Alan Sheridan. New York: Vintage, 1977, p. 27.

[^9]: Kant, Immanuel. “An Answer to the Question: What is Enlightenment?” (1784), in Practical Philosophy. Trans. Mary J. Gregor. Cambridge: Cambridge University Press, 1996, p. 17.

[^10]: Gadamer, Hans-Georg. Truth and Method. Trans. Joel Weinsheimer and Donald G. Marshall. London: Continuum, 1960/2004, p. 305-307.

[^11]: Husserl, Edmund. The Crisis of European Sciences and Transcendental Phenomenology. Trans. David Carr. Evanston: Northwestern University Press, 1936/1970, p. 48-49.

[^12]: Arendt, Hannah. Eichmann in Jerusalem: A Report on the Banality of Evil. New York: Viking Press, 1963, p. 287-288.

[^13]: Foucault, Michel. Madness and Civilization: A History of Insanity in the Age of Reason. Trans. Richard Howard. New York: Vintage, 1961/1988; و The Order of Things: An Archaeology of the Human Sciences. New York: Vintage, 1966/1970.

[^14]: Marcuse, Herbert. One-Dimensional Man: Studies in the Ideology of Advanced Industrial Society. Boston: Beacon Press, 1964, p. 7-8.

[^15]: Foucault, Michel. “The Subject and Power,” in Michel Foucault: Beyond Structuralism and Hermeneutics. Eds. Hubert Dreyfus and Paul Rabinow. Chicago: University of Chicago Press, 1982, p. 214.

[^16]: Habermas, Jürgen. The Theory of Communicative Action, Vol. 2: Lifeworld and System. Trans. Thomas McCarthy. Boston: Beacon Press, 1987, p. 318-331.​​​​​​​​​​​​​​​​

https://r-gholami.ir/?p=3806