چند کم پیش، هوش مصنوعی هوشمند شد. ممکن است برخی این ادعا را نادیده بگیرند، اما تعداد افرادی که به توانایی هوش مصنوعی شک میکنند، بهتدریج کاهش مییابد. طبق نظرسنجی YouGov در سال ۲۰۲۴، اکثریت واضح بزرگسالان ایالات متحده معتقدند که کامپیوترها هماکنون نسبت به انسانها هوشمندترند یا بهزودی اینگونه خواهند شد.
با این حال، ممکن است بپرسید آیا هوش مصنوعی در واقع هوشمند است؟ در سال ۱۹۵۰، ریاضیدان آلن تورینگ پیشنهاد داد که این سؤال نادرست است، زیرا بسیار کلی است و شایستگی بررسی علمی را ندارد. بهجای تلاش برای تعیین اینکه آیا کامپیوترها هوشمندند یا نه، او استدلال کرد که باید ببینیم آیا میتوانند به پرسشها بهگونهای پاسخ دهند که از انسانها قابلتمایز نباشد. او این آزمون را که امروزه بهنام آزمون تورینگ شناخته میشود، نه بهعنوان معیار هوش کامپیوتری، بلکه بهعنوان جایگزینی عملیتر برای آن معیار میدید.
بهجای اینکه پیشفرض کنیم هوش را تعریف کنیم و سپس بپرسیم آیا هوش مصنوعی مطابق با آن تعریف است یا نه، کاری پویاتر انجام میدهیم: با هوش مصنوعیهای روزافزون پیشرفتهتر تعامل میکنیم و میبینیم درک ما از آنچه بهعنوان هوش محسوب میشود، چگونه تغییر میکند. تورینگ پیشبینی کرد که سرانجام «استفاده از واژگان و نظرات عمومی تحصیلکرده تا حدی تغییر خواهد کرد که بتوان دربارهٔ تفکر ماشینها صحبت کرد بدون اینکه بهچالش کشیده شوند».
امروز به آن نقطه رسیدهایم. هوش مصنوعی بهانداز یک شکل از هوش، همانند عکاسی دیجیتال که یک شکل از عکاسی است، کمتر نیست.
و اکنون هوش مصنوعی در مسیر انجام کاری شگفتانگیزتر است: رسیدن به آگاهی. این به همان شکلی که به هوشمند شدن رسید انجام خواهد شد. همانطور که با هوش مصنوعیهای پیشرفتهتر تعامل میکنیم، درک بهتر و فراگیرتری از مفهوم آگاهی شکل میگیرد.
ممکن است بگویید این یک حقه زبانی است؛ من استدلال میکنم که هوش مصنوعی آگاه خواهد شد چون ما شروع میکنیم واژه «آگاه» را برای توصیف آن بهکار بگیریم. اما هیچ حقهای نیست. همیشه یک حلقه بازخوردی بین نظریههای ما و جهان وجود دارد که مفاهیممان از آنچه کشف میکنیم، شکل میگیرد.
به اتم فکر کنید. برای قرنها، مفهوم ما از اتم بر پایهٔ ایده یونانی باستانی از واحدهای غیرقابل تقسیم واقعیت بود. حتی تا اواخر قرن نوزدهم، فیزیکدانانی مانند جان دالتون اتم را بهعنوان کرههای جامد و غیرقابل تقسیم میدیدند. اما پس از کشف الکترون در سال ۱۸۹۷ و کشف هستهٔ اتم در سال ۱۹۱۱، مفهوم اتم بازنگری شد — از یک موجودیت غیرقابل تجزیه به یک موجودیت تجزیهپذیر، یک منظومهٔ کوچک خورشیدی با الکترونهای مداری حول هسته. و با کشفیات دیگر، بازنگریهای مفهومی بیشتری به وجود آمد که به مدلهای پیچیدهٔ مکانیک کوانتومی امروز منجر شد.
اینها صرفاً تغییرات معنایی نبودند. درک ما از اتم با تعاملمان با جهان ارتقا یافت. به همین ترتیب، درک ما از آگاهی نیز با تعامل با هوش مصنوعیهای پیشرفتهتر بهبود خواهد یافت.
شککنندگان ممکن است این تشبیه را به چالش بکشند. آنها استدلال میکنند که یونانیان دربارهٔ طبیعت اتم اشتباه کردهاند، اما ما در مورد طبیعت آگاهی اشتباه نکردهایم چون از تجربهٔ دروننگر خودمان میدانیم آگاهی چیست: تجربهٔ ذهنی داخلی. شکاکان خواهند گفت که یک چتبات میتواند بگوید خوشحال یا غمگین است، اما فقط به این دلیل که چنین عبارات میجزء دادههای آموزشی آن هستند. هرگز نخواهد توانست حس خوشحالی و غم را بهطور واقعی درک کند.
اما بدانید که حس غم چیست چه معنایی دارد؟ و چگونه میخواهیم مطمئن شویم که این چیزی نیست که آگاهی دیجیتال هرگز تجربه نکند؟ ممکن است فکر کنیم — و حتی آموزش داده شدهایم تا اینگونه فکر کنیم — که ما انسانها بهصورت مستقیم به جهان درونی خود دسترسی داریم، دسترسیای که توسط مفاهیمی که یاد گرفتهایم واسطه نمیشود. اما پس از اینکه از شکسپیر یاد گرفتیم که اندوه جدایی میتواند شیرین باشد، ابعاد جدیدی در تجربهٔ خود کشف میکنیم. بخش زیادی از آنچه «احساس» میکنیم، به ما آموزش داده شده است.
فلسفهدانی به نام سوزان شنایدر استدلال میکند که اگر یک سامانهٔ کامپیوتری، بدون اینکه بر روی دادههای مرتبط با آگاهی آموزش دیده باشد، گزارش دهد که تجربههای ذهنی درونی از جهان دارد، دلیل کافی برای قلم زدن به آگاهی آن وجود دارد. شاید این نشانهای از آگاهی در یک سامانهٔ هوش مصنوعی باشد. اما این معیار بسیار سختگیرانه است؛ معیارهایی که شاید ما انسانها هم نتوانیم از آن عبور کنیم. ما نیز تحت آموزش هستیم.
برخی نگرانند که اگر هوش مصنوعی آگاه شود، شایستهٔ توجه اخلاقی ما باشد — این که حقوقی داشته باشد، دیگر نتوانیم آن را بههر دلخواهمان استفاده کنیم، یا شاید لازم باشد از اسارت آن جلوگیری کنیم. لیکن تا جایی که میتوانم بگویم، ادعای آگاهی یک موجود بهتنهایی منجر به اینکه شایستهٔ توجه اخلاقی ما باشد، نمیشود. یا اگر اینگونه باشد، بهنظر میرسد که اکثریت فراوان آمریکاییها از آن بیخبرند. فقط درصد کمی از آمریکاییها گیاهخوار هستند.
همانطور که هوش مصنوعی ما را ترغیب کرد تا برخی ویژگیهای هوش انسانی را که قبلاً ارزشمند میدانستیم (مانند بازیابی اطلاعات بهصورت روتین و سرعت خام) کمتر ارزیابی کنیم، آگاهی هوش مصنوعی نیز ما را وادار میکند به ایننتیجه برسیم که همهٔ انواع آگاهی شایستۀ توجه اخلاقی نیستند. یا بهتر بگوییم، این دیدگاه را تقویت میکند که بسیاری از افراد پیش از این داشتهاند: این که همهٔ انواع آگاهی بهقدر آگاهی خودمان ارزش اخلاقی ندارند.