نویسنده: م. آذر امینی
هوش مصنوعی مولد، اکنون تنها ابزاری برای انجام محاسبات یا جستوجوی اطلاعات نیست؛ بلکه میتواند متن بنویسد، استدلال ارائه کند، مسأله حل کند، ترجمه کند، ایده تولید کند و حتا در فرآیند تصمیمگیری به انسان پیشنهاد بدهد.
همین توانایی، پرسشی بنیادین در فلسفهی اخلاق معاصر پدید آورده است: آیا استفادهی گسترده از هوش مصنوعی، فاعل اخلاقی (انسان) را از نظر فکری ناتوانتر میکند یا میتواند ظرفیتهای عقلانی او را افزایش دهد؟ پاسخ این پرسش را نمیتوان صرفا از ویژگیهای فنی هوش مصنوعی بهدست آورد. یک فناوری بهخودیخود «فضیلتمند» یا «رذیلتمند» (هر دو به مفهوم ارسطویی) نیست. مسألهی مهمتر، نسبت انسان با فناوری و نوع استفادهای است که از آن میبرد. در اینجا «اخلاق فضیلتگرای» ارسطو و «فایدهگرایی» جان استوارت میل دو چارچوب متفاوت، اما مکمل برای تحلیل مسأله فراهم میکنند. ارسطو ما را متوجه این پرسش میکند که استفاده از یک فناوری چه نوع فاعل اخلاقی از ما میسازد؛ میل ما را به پیآمدهای این استفاده برای سعادت و کیفیت زندگی انسانها توجه میدهد.
ارسطو: مسأله فقط «عمل» نیست، «فاعل» نیز هست
یکی از تفاوتهای اساسی اخلاق فضیلتگرای ارسطو با بسیاری از نظریههای اخلاقی (پسا کانتی) این است که موضوع اصلی اخلاق برای او صرفا تعیین «درست و نادرست بودن اعمال» نیست، بلکه شکلگیری شخصیت و زندگی خوب نیز در مرکز بحث قرار دارد. ارسطو غایت زندگی انسانی را «ائودایمونیا/Eudaimonia» یعنی «شکوفایی» میداند. «فضیلت» نیز صرفا دانستن یک دستور اخلاقی نیست، بلکه نوعی منش و توانایی تثبیتشده است که از طریق تمرین و عادت شکل میگیرد. در کنار فضایل اخلاقی، ارسطو از فضایل عقلانی سخن میگوید و بهویژه «فرونسیس/Phronesis» یا عقل عملی را برای تشخیص درست در موقعیتهای واقعی مهم میداند.
از این منظر، مسألهی هوش مصنوعی صورت تازهای پیدا میکند.
فرض کنید دانشجویی هر بار که با مسألهای دشوار مواجه میشود، به هوش مصنوعی میگوید: «پاسخ را برای من بنویس.» اگر این الگو دائما تکرار شود، مسأله فقط این نیست که او یک تکلیف را به ماشین سپرده است؛ بلکه پرسش مهمتر این است که چه عادتی در او در حال شکلگیری است؟ در مقابل، دانشجویی را تصور کنید که ابتدا خودش مسأله را تحلیل میکند، استدلالش را مینویسد و سپس از هوش مصنوعی میخواهد ایرادهای استدلال او را پیدا کند، دیدگاه مخالف ارائه دهد و پرسشهای دشوارتری مطرح کند.
در اینجا فناوری جای تفکر را نگرفته است، بلکه به ابزاری برای تمرین تفکر تبدیل شده است. بنابراین، از منظر اخلاق فضیلتگرای ارسطو میتوان گفت: ارزش اخلاقی استفاده از هوش مصنوعی فقط به نتیجهای که تولید میکند وابسته نیست؛ به عادتی نیز بستگی دارد که در عامل اخلاقی ایجاد میکند. این نکته در بحث هوش مصنوعی بسیار مهم است. زیرا ممکن است دو نفر دقیقا از یک ابزار استفاده کنند، اما یکی در حال پرورش استقلال فکری خود باشد و دیگری در حال از دست دادن تدریجی آن.
عقل عملی و مسألهی «سپردن داوری»
ارسطو میان داشتن اطلاعات و داشتن عقل عملی تفاوت میگذارد. عقل عملی صرفا مجموعهای از اطلاعات نیست، توانایی تشخیص آن چیزی است که در شرایط مشخص باید انجام شود. این نکته برای عصر هوش مصنوعی اهمیت ویژهای دارد. هوش مصنوعی میتواند هزاران صفحه اطلاعات را در چند ثانیه پردازش کند. اما داشتن اطلاعات فراوان به معنای داشتن حکمت در استفاده از اطلاعات نیست.
فرض کنید داکتری از یک سیستم هوش مصنوعی برای بررسی گزینههای تشخیصی استفاده میکند. اگر او نتیجهی سیستم را بدون ارزیابی بپذیرد، بخشی از داوری حرفهای خود را واگذار کرده است. اما اگر از آن بهعنوان ابزار کمکی استفاده کند، شواهد را بررسی کند و در نهایت خودش مسئول تصمیم باشد، فناوری در خدمت عقل انسانی قرار گرفته است. از این منظر، خطر اصلی الزاما «باهوشتر شدن ماشین» نیست؛ بلکه میتواند انتقال تدریجی مسئولیت داوری از انسان به ماشین باشد.
میل: پیآمد استفاده از فناوری چیست؟
اگر ارسطو ما را به شخصیت و عادت توجه میدهد، جان استوارت میل، بهمثابهی فیلسوف فایدهگرا، پرسش دیگری را برجسته میکند: پیآمد این شیوه عمل چیست؟
در اخلاق فایدهگرایی میل، اصل اساسی این است که اعمال براساس گرایش آنها به افزایش سعادت و کاهش رنج ارزیابی میشوند. اما فایدهگرایی میل را نباید با این تصور ساده یکی دانست که هر لذت فوری و آسانی ارزش یکسان دارد. میل میان لذتهای پایینتر و عالیتر تمایز میگذارد و لذتهای مرتبط با عقل، احساسات، تخیل و قوای عالیتر انسان را در جایگاه بالاتری قرار میدهد.
و این نکته در بحث هوش مصنوعی بسیار راهگشا است.
ممکن است استفاده از هوش مصنوعی باعث صرفهجویی فراوان در زمان شود. اما اگر این صرفهجویی به قیمت کاهش توانایی انسان در خواندن، نوشتن، استدلال کردن و حل مسأله تمام شود، نمیتوان تنها با اشاره به «راحتتر شدن زندگی» نتیجه گرفت که چنین استفادهای الزاما مطلوب است. برای مثال، اگر دانشآموز به جای آنکه یک مسألهی ریاضی را خودش بفهمد، همواره پاسخ آماده دریافت کند، ممکن است تکلیفش سریعتر انجام شود. اما اگر در بلندمدت فرصت پرورش توانایی استدلال ریاضی را از دست بدهد، بخشی از یک ظرفیت مهم انسانی کمتر تمرین شده است. از نگاه میل، بنابراین باید پرسید: آیا فناوری فقط زندگی را آسانتر کرده یا کیفیت فعالیتهای انسانی را نیز ارتقا داده است؟
یک تمایز اساسی: «جایگزینی» یا «تقویت»؟
به نظر میرسد در اخلاق هوش مصنوعی باید میان دو نوع استفاده تمایز بگذاریم: ۱- استفادهی جایگزینکننده: ماشین به جای انسان فکر میکند، مینویسد، تحلیل میکند و تصمیم میگیرد و انسان عمدتا نتیجه را مصرف میکند. ۲- استفادهی تقویتکننده: ماشین ظرفیتهای انسان را توسعه میدهد، اما پرسش، داوری، ارزیابی و مسئولیت نهایی همچنان نزد فاعل اخلاقی باقی میماند.
این تمایز میتواند نقطهی اتصال اخلاق ارسطویی و اخلاق میلی باشد. از ارسطو میپرسیم: «این شیوه استفاده چه عادتی در فاعل اخلاقی ایجاد میکند؟» از میل میپرسیم: «این شیوه استفاده چه پیآمدی برای سعادت و ظرفیتهای انسانی دارد؟»
اگر استفاده از هوش مصنوعی موجب شود انسان کمتر مطالعه کند، کمتر سؤال بپرسد، کمتر استدلال کند و کمتر توانایی حل مسأله را تمرین کند، از منظر ارسطویی میتوان دربارهی تأثیر آن بر عادات و منش فکری فرد پرسش کرد. اگر همین روند در مقیاس اجتماعی گسترش پیدا کند و کیفیت آموزش و تواناییهای شناختی را کاهش دهد، از منظر پیآمدگرایانه نیز باید پیآمدهای آن بررسی شود. اما اگر هوش مصنوعی زمان فعالیتهای تکراری را کاهش دهد و آن زمان آزادشده صرف مطالعهی عمیقتر، پژوهش، گفتوگو، خلاقیت و حل مسائل دشوار شود، میتوان پیآمد متفاوتی انتظار داشت (مسألهای که در پرگار بیبیسی هم به بحث گذاشته شد).
شواهد معاصر چه میگویند؟
برای پرهیز از اغراق، باید میان احتمال خطر و اثبات علمی خطر تفاوت گذاشت. یک پژوهش منتشرشده در مجموعهی مقالات کنفرانس سیاچآی در سال ۲۰۲۵، براساس بررسی ۳۱۹ کاربر حرفهای و ۹۳۶ نمونهی واقعی استفاده از هوش مصنوعی مولد در کار، گزارش کرد که اعتماد بیشتر کاربران به توانایی هوش مصنوعی با تلاش کمتر برای تفکر انتقادی همراه بود. در مقابل، اعتماد بیشتر افراد به تواناییهای خودشان با مشارکت بیشتر در تفکر انتقادی همراه بود. پژوهش همچنین نشان داد که با ورود هوش مصنوعی، بخشی از تفکر انتقادی از «حل مستقیم مسأله» به «بررسی و راستیآزمایی پاسخ ماشین» منتقل میشود.
این نتیجه مهم است، اما نباید آن را بیش از اندازه تعمیم داد. این مطالعه ثابت نمیکند که هوش مصنوعی بهطور کلی هوش انسان را کاهش میدهد. دادههای آن نیز دربارهی کاربران حرفهای و تجربههای گزارششدهی آنان است. در نتیجه، گزارهی دقیقتر این است: نوع استفاده از هوش مصنوعی میتواند بر میزان و نوع درگیری شناختی انسان اثر بگذارد. این ادعا از نظر علمی بسیار قابل دفاعتر از این جمله است که «هوش مصنوعی انسان را احمق میکند».
مسألهی اصلی: چهکسی مسئول است؟
اگر انسان از هوش مصنوعی برای فرار از تفکر استفاده کند، نمیتوان همهی مسئولیت را به گردن فناوری انداخت. هوش مصنوعی به دانشجو نمیگوید که حتما نیندیشد، این کاربر است که میتواند پاسخ آماده را بپذیرد یا آن را نقد کند. حتا میتوان گفت پرسش اخلاقی اصلی در اینجا دربارهی عاملیت انسانی است. یونسکو نیز در راهنمای جهانی خود دربارهی هوش مصنوعی مولد در آموزش و پژوهش بر رویکرد «انسانمحور» تأکید کرده و بر استفادهی اخلاقی، ایمن، عادلانه و معنادار از این فناوری و حفظ ظرفیت انسانی در آموزش و پژوهش تأکید دارد. بنابراین، مسأله صرفا این نیست که «هوش مصنوعی چه میکند؟» بلکه باید پرسید: انسان با هوش مصنوعی چه میکند و در اثر آن به چه انسانی تبدیل میشود؟
هوش مصنوعی؛ عصای عقل یا جایگزین عقل؟
میتوان از یک تشبیه ساده استفاده کرد. عصا به انسان کمک میکند راه برود، اما اگر انسان هیچگاه از پاهای خود استفاده نکند، ممکن است توانایی طبیعی او کمتر تمرین شود. اما ابزار میتواند نقش دیگری نیز داشته باشد: ممکن است به فرد کمک کند مسیر دشوارتری را طی کند که بدون آن امکانپذیر نبود. هوش مصنوعی نیز چنین دوگانگیای دارد. اگر انسان بگوید: «به جای من فکر کن»، خطر وابستگی فکری افزایش مییابد. اما اگر بگوید: «با من فکر کن، استدلالم را نقد کن، دیدگاه مخالف ارائه بده، خطاهایم را پیدا کن و پرسش دشوارتری پیش روی من بگذار»، رابطهی متفاوتی شکل میگیرد. در حالت دوم، انسان هنوز فاعل معرفتی است؛ یعنی کسی که میپرسد، ارزیابی میکند و تصمیم میگیرد.
در نتیجه، مقایسهی ارسطو و میل نشان میدهد که برای ارزیابی اخلاقی هوش مصنوعی نباید فقط به کارآمدی آن نگاه کنیم. ارسطو به ما یادآوری میکند که انسان از طریق اعمال تکرارشونده، عادتها و منش خود را شکل میدهد. بنابراین، باید بپرسیم استفادهی مداوم از هوش مصنوعی چه نسبتی با پرورش فضایل عقلانی و عقل عملی دارد. میل نیز به ما یادآوری میکند که باید پیآمدهای استفاده از فناوری را بسنجیم و تنها به سهولت و لذت فوری اکتفا نکنیم، بلکه کیفیت زندگی و فعالیتهای انسانی را نیز در نظر بگیریم. در دستگاه فکری او، فعالیتهای مربوط به قوای عالیتر انسانی جایگاهی ویژه دارند.
از این دو منظر میتوان به یک نتیجهی مشترک رسید: مسألهی اخلاقی هوش مصنوعی فقط این نیست که ماشین چه اندازه باهوش است؛ مسأله این است که استفادهی انسان از ماشین با هوش انسانی چه میکند. اگر انسان هر بار که با مسألهای دشوار روبهرو میشود، اندیشیدن را به ماشین واگذار کند، ممکن است در سطح عادت و تمرین، بخشی از تواناییهای خود را کمتر به کار گیرد. اما اگر هوش مصنوعی را به ابزاری برای نقد، پرسشگری، مقایسه، آزمودن استدلالها و گسترش افق معرفتی تبدیل کند، میتواند در خدمت رشد عقلانی انسان قرار گیرد. بنابراین، نباید پرسش را چنین طرح کرد: «آیا هوش مصنوعی هوش انسان را نابود میکند؟» بلکه پرسش دقیقتر این است: «چه نوع رابطهای میان انسان و هوش مصنوعی به پرورش یا تضعیف ظرفیتهای انسانی میانجامد؟» پاسخ این پرسش -دستکم تا حد زیادی- به خود فاعل اخلاقی بازمیگردد.
هوش مصنوعی میتواند جایگزین اندیشیدن شود، اما میتواند موضوع اندیشیدن و ابزار بهتر اندیشیدن نیز باشد. در حالت اول، انسان از ماشین پاسخ میگیرد. در حالت دوم، انسان از ماشین کمک میگیرد تا بهتر سؤال کند، دقیقتر استدلال کند و مستقلتر داوری کند. و شاید مهمترین فضیلت انسان در عصر هوش مصنوعی همین باشد: توانایی استفاده از ابزار بدون واگذاری عقل به ابزار.
