مواجهه عقلانیت اسلامی با فناوری هوش مصنوعی

متن سخنرانی حجت الاسلام والمسلمین دکتر رضا غلامی، رئیس موسسه مطالعات فرهنگی و اجتماعی وزارت علوم، تحقیقات و فناوری در نشست تخصصی آینده اندیشی فرهنگ، آموزش و هوش مصنوعی، تهران، موسسه مطالعات فرهنگی و اجتماعی وزارت علوم، 21 تیرماه 1401

بسم الله الرحمن الرحیم، الحمدلله رب العالمین، الصلاه و السلام علی رسول الله و علی آله الطیبین الطاهرین و لعنه الله علی اعدائهم اجمعین

سلام عرض می کنم خدمت شما عزیزان، اساتید، پژوهشگران و دانش پژوهان ارجمند. جا دارد از جناب آقای دکتر محمد حسینی مقدم به خاطر طراحی و مدیریت این نشست کمال تشکر را داشته باشم. همانطور که می دانید، موضوع بحث بنده در این نشست، «مواجهه عقلانیت اسلامی با فناوری هوش مصنوعی» است. منظور من از عقلانیت اسلامی در اینجا، عبارت است از معیار و ملاک مواجهه تفکر اسلامی که بحث جزئی درباره آن را به جای دیگر موکول می کنم. در این بحث، ابتدا از باب مقدمه لازم می دانم چند نکته را خدمتتان یادآوری کنم :

یک. اسلام و مواجهه با علم و فناوری

روشن است که مواجهه اسلام با علم چه به معنای Knowledge و چه به معنای Science مواجهه ای باز هست. یعنی اسلام روی کسب علم و بسط و تعمیق آن، به شکل ویژه‌ و منحصربفرد تاکید دارد و من تصور می کنم درباره تکنیک و فناوری هم چنین نگرشی در منطق اسلام وجود دارد. یعنی اسلام نه تنها هیچ مشکلی در زمینه ابزارسازی برای بهبود زندگی ندارد بلکه اگر این ابزارها به دنیازدگی منجر نشود، مورد تایید اسلام است.

دو. بشر هر قدر در علم و فناوری رشد کند، خالقیت و ربوبیت الله نقض نمی‌شود

بر خلاف رویکرد مسیحیت تحریف شده که رشد علم را معارض با آموزه های دینی و نقض کننده خالقیت و ربوبیت الهی تلقی می کرد، در عقلانیت اسلامی، رشد علم و حتی فناوری با هر سطح و درجه ای که قابل تصور باشد، نعمت و آیت الهی است به هیچ وجه قادر نیست خالقیت و ربوبیت خدای متعال را تحت الشعاع قرار دهد. به بیان دیگر، رشد علم و فناوری در منظر عقلانیت اسلامی ایمان زاست و بین این رویکرد و رویکرد مسیحیت تاریخی، فاصله زمین تا آسمان است.

سه. دست یابی به رفاه و قدرت از طریق علم و فناوری مقبول است

چنانچه علم و فناوری به صورت متعادل در خدمت رفاه و قدرت ( با تعریف صحیح ) باشد و به رشد مادی و معنوی به مثابه دو روی یک سکه کمک بکند، در منطق اسلامی مقبول است و نباید تصور شود که هرگاه از رفاه و قدرت صحبت می شود لزوماً پای پارادایم مدرن باز شده است. در عین حال، تاکید می کنم که همه این ها در عقلانیت اسلامی وسیله است برای رسیدن به یک مقصد متعالی؛ و لذا نظر شما را مجدداً به واژه «تعادل» جلب می کنم.

چهار. انسان در این دنیا نیامده که ابدی شود

همین توجه به ابدی نبودن انسان و رد اینجهانیگری، سبب می شود که بسط متعادل علم و فناوری و هماهنگی رشد علم و فناوری با عقل و اخلاق، اساس رویکرد عقلانیت اسلامی به علم و فناوری باشد و رشد علم و فناوری را به زمینه سازتوشه‌برداری برای حیات ابدی انسان، تبدیل کند.

پنج. مواجهه انسان با ابتلائات پیچیده تر، زمینه رشد و تعالی او را فراهم خواهد کرد

این یک واقعیت است که هر قدر انسان مسلمان در شرایط علمی- فناوری پیچیده تر قرار بگیرد، فرصت بیشتری برای رشد و تعالی او در عرصه معنوی و روحی فراهم می شود. شاید یکی از دلایل تاکید احادیث بر روی زندگی در سواد اعظم که منظور شهر و جامعه مدنی است، به خاطر همین فرصت هایی است که زندگی شهری و مدنی برای رشد انسان فراهم می کند. از همین جا می توان به این جمع بندی رسید که قرارگرفتن انسان در میدان ابتلائات پیچیده، رشد دهنده تلقی می شود هرچند آسیب های خاص خودش را هم دارد.

بعد از مباحثی مقدماتی، در ارتباط با مواجهه خاص عقلانیت اسلامی با هوش مصنوعی، پنج مطلب را خدمتتان عرض خواهم کرد :

یکم. هوش مصنوعی؛ مزایا و معایب

چیستی هوش مصنوعی

هوش مصنوعی در یک نگاه ساده، شبیه سازی فرآیندهای هوش طبیعیِ انسان توسط ماشین ها به ویژه سیستم های رایانه ای است. آنچه مهم است، هوش مصنوعی به پایه ای از سخت افزار و نرم افزار تخصصی برای نوشتن و آموزش الگوریتم های یادگیری ماشین نیاز دارد. به طور کلی، سیستم‌های هوش مصنوعی با دریافت مقادیر زیادی از داده‌های آموزشیِ برچسب‌گذاری شده، تجزیه و تحلیل داده‌ها برای همبستگی‌ها و الگوها و استفاده از این الگوها برای پیش‌بینی وضعیت‌های آینده کار می‌کنند. بر این اساس، مثلاً یک ربات چت که از نمونه‌هایی از چت‌های متنی تغذیه می‌شود، می‌تواند یاد بگیرد که تبادلات واقعی با افراد ایجاد کند، یا یک ابزار تشخیص تصویر می‌تواند با مرور میلیون‌ها مثال، شناسایی و توصیف اشیاء در تصاویر را بیاموزد. برنامه نویسی هوش مصنوعی بر سه مهارت شناختی تمرکز دارد: یادگیری، استدلال و اصلاح خود.

 فرآیندهای یادگیری هوش مصنوعی، بر موضوع به دست آوردن داده ها و ایجاد قوانینی برای چگونگی تبدیل داده ها به اطلاعات عملی متمرکز است.  قوانین، که الگوریتم نامیده می‌شوند، دستورالعمل‌های گام به گام را برای نحوه تکمیل یک کار خاص به دستگاه‌های محاسباتی ارائه می‌دهند. ضمناً شبکه‌های عصبی مصنوعی و فناوری‌های هوش مصنوعی یادگیری عمیق به سرعت در حال تکامل هستند، بیشتر به این دلیل که هوش مصنوعی مقادیر زیادی از داده‌ها را بسیار سریع‌تر پردازش می‌کند و پیش‌بینی‌ها را دقیق‌تر از آنچه که انسان ممکن است انجام می‌دهد.

فوائد هوش مصنوعی

هوش مصنوعی در مشاغل مرتبط با جزئیات خوب است؛ زمان انجام کارهای سنگین پردازش و تحلیل داده را کاهش می دهد؛ نتایج ثابتی را ارائه می دهد و عوامل مجازی مبتنی بر هوش مصنوعی همیشه در دسترس هستند.

آنچه مسلم است، هوش مصنوعی زندگی افراد را به مراتب بیش از قبل کارآمدتر می‌کند و برنامه‌ها و خدمات  فراوانی را در جهت کمک به انسان و جامعه مدنی ایجاد می‌کند. بهترین نمونه های هوش مصنوعی در زندگی روزمره عبارتند از ناوبری سفر، خانه های هوشمند، گوشی های هوشمند، پهپادها و خودروهای هوشمند و… . هرچند باید توجه داشت که هوش مصنوعی در حال پیوند سریع با همه فناوری ها و گسترش کاربرد خود در عرصه های گوناگون از جمله سیستم مدیریت شهری، سیستم بهداشت و درمان، سیستم کشاورزی و …. می باشد و تقریباً چیزی نیست که در آینده به نوعی با هوش مصنوعی پیوند نخورد.

مضرات و تهدیدهای ناشی از هوش مصنوعی

 برای هوش مصنوعی مضرات گوناگون فهرست می شود. مثلاً گران بودن، نیاز به تخصص فنی عمیق و پیچیده، کمبود تکنسین های واجد شرایط برای ساخت ابزارهای هوش مصنوعی؛ تجربی و فیزیکی بودن روش حاکم بر آن و عدم توانایی تعمیم از یک کار به کار دیگر،  و غیره که از جمله معایب اولیه فناوری هوش مصنوعی قلمداد می شوند. البته اگر عمیق تر به فناوری هوش مصنوعی نگاه شود، امروز هوش مصنوعی تهدیدهای جدی را هم برای زندگی روزمره انسان ها به وجود آورده است که در ادامه به برخی از آنها اشاره می کنم :

یک. در عرصه امنیت و حریم خصوصی

در این زمینه، این پرسش همواره مطرح بوده است که مردم چگونه سیستم‌های هوش مصنوعی را ایمن کنند؟ اگر از الگوریتم‌های هوش مصنوعی برای دفاع در برابر نگرانی‌های امنیتی استفاده می‌شود، نخست باید در رابطه با ایمن بودن خود سیستم هوش مصنوعی‌ اطمینان حاصل گردد.

همچنین در زمینه‌ حریم خصوصی، شرکت‌های بزرگ در دنیا طی چند سال گذشته تا حد قابل توجهی زیر تیغ دولت‌ها و نهادهای نظارتی قرار گرفته‌اند که اگر در مواردی به میدانی برای سیاست بازی و رقابت های جناحی تبدیل بشود مخاطراتی را برای حریم خصوصی ایجاد می کند. علاوه بر این، باید توجه نمود که حجم وسیع تولید روزانه داده و از طرف دیگر شکل گیری الگوریتم‌های پیشرفته برای استفاده از این داده‌ها، می‌توانند پروفایل‌های بسیار دقیقی را برای نمایش تبلیغات ایجاد کنند و این، حتما ناقض حریم خصوصی کاربران تلقی می شود. البته این ها فقط نمونه هایی از ناامنی هایی است که از ناحیه هوش مصنوعی احساس می شود.

دو. کمک به استبدادورزی دولت ها یا شرکت های غول چند ملیتی

از دیگر دغدغه های امروز درباره فناوری هوش مصنوعی، می‌توان به فناوری های مرتبط با جاسوسی و کنترل بر روی مردم عادی و خاص اشاره کرد. گزارش‌ها حاکی از آن است که برخی از نیروهای اطلاعاتی و امنیتی در کشورهای مختلف برای شناسایی و تعقیب اهداف خود، به طور وسیعی از فناوری های هوش مصنوعی استفاده می‌کنند. چنین فناوری هایی اگر در چارچوب قانون و در زیر چتر اخلاق و قانون عادلانه مورد استفاده قرار نگیرد، می‌تواند منجر به تقویت رفتارهای استبدادی در کشورهای مختلف اعم از کشورهای به ظاهر دموکراتیک و غیر دموکراتیک به ویژه علیه منتقدین و معترضین در آن کشورها بشود. البته نگرانی دربار استبدادورزی دولت ها، درباره شرکت های غول چندملیتی که بخشی از مدیریت جهانی و حتی مدیریت کشورها را بر عهده گرفته اند هم وجود دارد. یعنی این شرکت ها نیز می توانند از طریق تسلط بر هوش مصنوعی، حقوق و آزادی های انسان ها را در عرصه های گوناگون نقض کنند.

 سه. بد افزارهای مبتنی بر فناوری هوش مصنوعی

هوش مصنوعی به طور فزاینده‌ای در هک کردن سیستم‌های امنیتی و شکستن رمزگذاری‌های مختلف رشد می‌کند. بخشی از این موضوع به تکامل الگوریتم‌های یادگیری ماشینی برمی‌گردد؛ این، یعنی بدافزارها مبتنی بر هوش مصنوعی با آزمون و خطا روز به روز بهتر می‌شوند و با گذر زمان خطر آنها هم افزایش پیدا می‌کند.

چهار. سلاح های مبتنی بر فناوری هوش مصنوعی

سلاح‌های خودمختار سلاح‌هایی محسوب می شود که به جای انسان‌ها توسط سیستم‌های هوش مصنوعی کنترل می‌شوند. نیروهای نظامی کشورهای مختلف در حال حاضر به سلاح‌های مبتنی بر هوش مصنوعی‌ یا سلاح‌هایی که تا حدی به این سیستم‌ها متکی هستند، دسترسی دارند. به عنوان مثال می‌توانیم به پهپادهای نظامی اشاره کنیم که مثلا با بهره‌گیری از سیستم‌های تشخیص چهره یا حرارت بدن می‌توانند یک فرد را با دقت زیادی ردیابی کنند. گسترش این سلاح ها تبعات فاجعه‌باری برای بشر به همراه خواهد داشت و به ویژه به گسترش تروریسم اعم از دولتی و غیردولتی در جهان کمک خواهد کرد.

پنج. فناوری دیپ‌فیک و اخبار جعلی

فناوری دیپ‌فیک یا جعل عمیق، روزبه‌روز پیشرفته‌تر شده و تشخیص جعلی بودن ویدیوهای مبتنی بر آن، هر روز دشوارتر از گذشته می شود. در حال حاضر، این فناوری عمدتاً برای تولید ویدیوهای جعلی از افراد مشهور مورد استفاده قرار می‌گیرد اما برخی کلاه‌برداران با استفاده از تصویر پروفایل افراد معمولی در شبکه‌های اجتماعی هم ویدیوهای جعلی از آن‌ها درست می‌کنند تا بوسیله آن بتوانند اخاذی کنند. علاوه بر این، باید به استفاده از هوش مصنوعی‌ برای ویرایش تصاویر و شبیه‌سازی صدا هم توجه نمود که می‌تواند دردسرها و نابسامانی هایی را در جوامع و زندگی فردی و اجتماعی انسانها داشته باشد.

شش. ربات های تبهکار

گرچه داستان های ربات های تبهکار بیشتر در فیلم ها، انیمیشن ها و بازی های رایانه ای نمایش داده می شود اما گزارش هایی وجود دارد که نشان می دهد برخی دولت ها درصدد طراحی و به‌کارگیری ربات هایی برای حضور در برنامه های تروریستی و یا جنگ ها و شکنجه ها هستند که این می تواند عواقب خطرناکی برای بشر داشته باشد.

دوم. هوش مصنوعی رقابت با خدا بر سر خلق انسان نیست

هوش مصنوعی مخلوق انسان‌ است و لذا انسان بر او کاملاً سلطه دارد. هوش مصنوعی هر قدر هم قدرت پیدا کند، تحت مدیریت انسان است و روشن است که از خودش استقلال و به تبع آن، اختیاری ندارد. از سوی دیگر، انسان آفریده پروردگار و در قبضه خداوند است لذا انسان ها هر قدر هم که در هوش مصنوعی رشد کنند و حتی بر فرض بتوانند موجودی در تراز انسان هم خلق کنند، باز خلق آنها، خلق خدا محسوب می شود نه بیشتر.

سوم. خط قرمز های عقلانیت اسلامی برای هوش مصنوعی

من در این بخش از بحث خودم، مایلم در کنار مزایایی که برای هوش مصنوعی قائل هستم، به یکسری خط قرمزها در زمینه تولید و بهره برداری از هوش مصنوعی اشاره کنم :

یک. تغییر طبیعت

هرگونه مداخله فناوری هوش مصنوعی برای تصرف در سیستم طبیعت و استفاده از طبیعت در خارج از سسیتم خدادادی و یا تخریب محیط زیست از طریق بهره برداری بیش از حد از طبیعت یا آلوده سازی آن، یک خط قرمز محسوب می شود.

دو. مسخ انسان

مسخ انسان در یک تعریف ساده عبارت است از : تغییر حقیقت انسان و زنده به گورسازی فطرت آدمی که به نظر من هوش مصنوعی اگر از مسیر اخلاق خارج شود می تواند به این سمت سوق پیدا کند.

کنار گذاشتن اخلاق

هرگونه بسط هوش مصنوعی در مسیر غیر اخلاقی و یا هرنوع بهره برداری از فناوری هوش مصنوعی خارج از موازین اخلاقیِ فطری از نظر عقلانیت اسلامی ممنوع است.

سه. دامن زدن به بی عدالتی

هرگونه بهره برداری از هوش مصنوعی در جهت اهداف ظالمانه و گسترش بی عدالتی در جهان، اعم از عدالت سیاسی، اقتصادی و فرهنگی، یک خط قرمز محسوب می شود.

چهار.  نابود سازی روند طبیعی کار

از منظر شرکت های وابسته به نظام سرمایه داری، فناوری هوش مصنوعی می‌تواند وظایف را بهتر از انسان‌ها انجام دهد به ویژه زمانی که از کارهای تکراری و جزئیات محورسخن به میان می آید. مانند تجزیه و تحلیل تعداد زیادی از اسناد قانونی برای اطمینان از پر شدن صحیح فیلدهای مربوطه که ابزارهای هوش مصنوعی اغلب کارها را به مراتب سریع تر و با خطاهای نسبتاً کم تری تکمیل می کنند.

در حقیقت، از دید نظام سرمایه داری مزیت های هوش مصنوعی به انفجار در کارایی کمک کرده و خواهد کرد اما روشن است که فناوری هوش مصنوعی می تواند بسیاری از شغل‌ها را از بین ببرد؛ در این میان، بخش بزرگی از کارگران که شغل خود را به خاطر گسترش هوش مصنوعی از دست داده‌ یا می دهند به دلیل فقدان تخصص موردنیاز، قادر به پیدا کردن شغل جایگزین نخواهند بود. از سوی دیگر، با پیشرفت سیستم‌های هوش مصنوعی، مهارت‌های آن‌ها برای انجام کارهای مختلف بهتر از انسان‌ها خواهد شد و در یک رقابت با انسان، منجر به افزایش نابرابری اجتماعی بشود. البته به نظر من، جدای عواقب اقتصادی بیکاری، عوارض بیکاری از جهت فرهنگی و اجتماعی نیز قابل توجه است که در جای خود می توان به آن پرداخت.

پنج. سطحی تر کردن فرهنگ و اندیشه

یکی از پرسش های مهم این است که هوش مصنوعی چه تاثیری بر فرهنگ دارد؟ این از همان جنس نگرانی‌ای است که با اوج گرفتن انقلاب صنعتی و شکل گیری تمدن مدرن، پیش روی اصحاب مکتب فرانکفورت قرار داشت؟ آیا تمدن جدید، چیزی از فرهنگ و عمق اندیشی فکری را باقی خواهد گذاشت یا انسان ها را روز به روز به سطحی اندیشی، کنار گذاشتن تفاوت های فرهنگی و در نهایت یکدستی سوق خواهد داد؟

طرفداران نظام سرمایه داری بر این باورند که هوش مصنوعی علاوه بر افزایش اعتماد به نفس، روحیه بیشتری به انسان ها به ویژه نوآوران و صاحبان کارهای بزرگ خواهد داد. در واقع، می گویند که دستاورد فرهنگی فناوری هوش مصنوعی برای تیم های شاغل در شرکت ها و صنایع عظیم، مساوی است با انعطاف پذیری و مزیت رقابتی بیشتر، اما به نظر می رسد این ها هیچکدام دستاوردهای فرهنگی به معنای دقیق کلمه نیستند و نمی توان در نسبت فرهنگ و هوش مصنوعی در این حد ساده اندیش بود.

چهارم. نقش هوش مصنوعی در تمدن نوین اسلامی

در صورت درک اهمیت فوق العاده فناوری هوش مصنوعی و همچنین رعایت خطوط قرمز عقلانیت اسلامی در ساحت فناوری هوش مصنوعی، این فناوری مانند سایر فناوری های پیشرفته دیگر، می تواند در خدمت شکل گیری تمدن نوین اسلامی باشد. در یک نگاه اولیه، فناوری هوش مصنوعی می تواند از طریق خلاقیت و نوآوری های مضاعفی که بر اساس پارادایم حاکم بر تمدن نوین اسلامی در آن رقم خواهد خرد، در عرصه هایی منشأ آثار فراوان تلقی شود که برای تقریب ذهن مثال هایی را عرض می کنم  :

 یکم. گسترش جهشی دانش و فناوری

دو. ارتقاء معتنابه آموزش و جابجایی مرز سواد عمومی

سه.گسترش جهشی علوم اسلامی مانند فقه نظام ساز

چهار. بهبود مدیریت زندگی انسان ها و کارآمدی آن هم بر پایه عدالت

پنج. رصد و تحلیل و پیش بینی دقیق تر واقعیت های اجتماعی

شش. ساخت ابزارهای متنوعِ هوشمند با هدف اقسام نیکوکاری

و غیره

پنجم. آیا هوش مصنوعی و برخی از شبهات دینی

من به دلیل ضیق وقت بنا ندارم در اینجا وارد بحث تفصیلی بشوم. فقط عرض می کنم که گسترش هوش مصنوعی در دو زمینه عمده  می تواند ابهامات و شبهاتی را ایجاد کند : اولاً، بحث ذهن و امکان ساخت ذهن از طریق هوش مصنوعی و ثانیاً. شبیه سازی نفس نه لزوماً به معنای روح بلکه به معنای قوه خودآگاهی و هویت بخشی به انسان ها. البته این ها می تواند پرسش هایی را هم پیش روی مباحثی چون عالم مثال و غیره قرار دهد که طبیعی است باید پژوهشگران دینی با کمک متخصصان هوش مصنوعی به آن بپردازند. البته من شخصاً برای این ابهامات و شبهات پاسخ دارم اما اینجا فرصتی برای طرح این پاسخ ها نیست.

از توجه شما عزیزان سپاسگزارم.

والسلام علیکم و رحمه الله و برکاته