بهعنوان یک دستیار شخصی، چتجیپیتی بهطور شگفتانگیز و آزاردهنده در این یک نکتهٔ اساسی ضعیف است.
بهعنوان یک دستیار شخصی، چتجیپیتی بهطور شگفتانگیز و آزاردهنده در این یک نکتهٔ اساسی ضعیف است.
چتجیپیتی، همانند بسیاری از چتباتها، بهعنوان دستیار شخصی فوقالعادهای معرفی میشود. اما در میان چیزهای زیادی که آن را سردرگم میکند، یک مورد بهویژه غافلگیرکننده است: عدم توانایی در گفتن زمان.
وقتی از چتجیپیتی میپرسم ساعت چند است، هرگز دقیقاً نمیدانم چه پاسخی دریافت میکنم. گاهی میگوید نمیتواند این کار را انجام دهد. «من دسترسی به ساعت زمان واقعی دستگاه شما یا مکان شما ندارم، بنابراین نمیتوانم زمان دقیق محلی را برای شما بگویم»، او تقریباً یک هفته پیش در ساعت ۴:۱۵ بعد از ظهر به وقت استاندارد شرق نوشت. «اما من میدانم تاریخ امروز طبق سیستم من: ۲۰۲۵-۱۱-۲۰». (قابلتوجه است که چتجیپیتی این بخش را بهصورت برجسته نوشت تا مطمئن شود که من نکات مثبت آن را از دست ندهم.) گاهی از من میخواهد شهر یا منطقهٔ زمانی را مشخص کنم، اما سپس میفهمیم که حتی به این شکل هم نمیتواند بهصورت قابلاعتماد زمان را چک کند — «ساعت ۱۲:۴۲ بعد از ظهر در نیویورک (زمان شرقی، با این فرض که ساعت سیستم شما درست باشد)»، چتجیپیتی در ساعت ۱۱:۰۸ صبح نوشت. و گاهی میکند دقیقاً زمان درست را ارائه دهد، تا اینکه چند دقیقهٔ دیگر بپرسم و دوباره اشتباه میکند.
ما اولین کسانی نبودیم که این موضوع را مطرح کردیم. مشکل زمان بهطور مکرر در ردیت و انجمنهای چتجیپیتی مطرح میشود. یک کاربر از OpenAI خواست «به این موضوع توجه کنید» زیرا این موضوع نام بدی به مدل هوش مصنوعی میآورد «که تواناییهای شناختیاش بسیار برتر از تواناییهای من است». ویژگیهایی مثل جستجوی وب برخی راهحلها را ارائه کردهاند. اما چند سال پس از عرضه، نسخهٔ سادهٔ چتجیپیتی همچنان بیتفاوت به تیک تیک ساعت است — و هرچند وضعیت بهنظر عجیب میرسد، دلایل سادهای برای این وجود دارد.
گفتن زمان برای هر کامپیوتر و تلفنی کار سادهای است، بهدلیل تراشههای کوچک که داخل آنها تیک میزنند. اما سامانههای هوش مصنوعی مولد مانند مدلهای بزرگ زبانی و بصری که چتجیپیتی، جمینی گوگل، کلود شرکت Anthropic و سایرین را قدرتمند میکنند، برای هدفی کاملاً متفاوت ساخته شدهاند. بهصورت پیشفرض، آنها پرسشهای کاربر را دریافت میکنند و پاسخها را صرفاً بر پایهٔ دادههای آموزشی خود پیشبینی میکنند. این دادهها شامل بهروزرسانیهای مداوم و لحظهای دربارهٔ مواردی مثل زمان نیستند، مگر اینکه بهصورت خاصی به اینترنت برای یافتن آن اطلاعات رجوع کنند.
«یک مدل زبانی در فضای خود از زبان و واژگان کار میکند. آن فقط به چیزهایی اشاره میکند که وارد این فضا شدهاند»، گفت یروانت کولباشیان، کارشناس رباتیک هوش مصنوعی که در سال ۲۰۲۴ دربارهٔ مفهوم زمان بهنگاهی توسط هوش مصنوعی نوشت، برای The Verge. این شبیه به یک مرد انداخته شده بر جزیرهای در وسط اقیانوس است که کتابهای بیشمار دارد اما ساعت ندارد.
چرا OpenAI نمیتواند بهسراسر پلی به آن جزیره بسازد و دسترسی ساعت سیستم را به چتجیپیتی بدهد؟ پاسخ کوتاه این است که میتواند. در گفتوگویم با پاسکواله مینرینی، که در مدرسهٔ انفورماتیک دانشگاه ادینبرا در اسکاتلند به پردازش زبان طبیعی میپردازد، برنامهٔ دسکتاپ چتجیپیتی وی بلافاصله زمان صحیح در میلان، ایتالیا را به او نشان داد — جایی که در طول مصاحبهمان حضور داشت. او گفت: «اگر به آن دسترسی به یک ساعت بدهید، میتواند زمان را بگوید. در غیر این صورت، این بهنوعی چیزی است که بهلحظهای که بوجود آمد، وابسته است.» اطلاعات بهموقع احتمالاً «در زمینهٔ برنامه تعبیه شده بود»، او افزود. پیشتر ویژگی «جستجو» را در برنامهٔ چتجیپیتی فعال کرده بود، به این معنی که چتجیپیتی اجازه دسترسی به ابزارهای زمانسنج داخلی کامپیوتر او را بهعلاوه وب دارد تا زمان را بهدست آورد.
OpenAI این را به ما گفت. «مدلهایی که چتجیپیتی را قدرت میدهند دسترسی داخلی به زمان جاری ندارند، بنابراین برای بهدست آوردن اطلاعات بهروز، گاهی چتجیپیتی نیاز دارد که جستجو را فراخوانی کند تا جدیدترین اطلاعات را استخراج کند»، سخنگوی آن، تايا كريستنسن، برای The Verge نوشت.
بهنظر کولباشیان، حفظ آگاهی LLMها از زمان مزایا و معایبی دارد. چتجیپیتی فضای محدودی در آنچه «پنجرهٔ زمینه» نامیده میشود دارد، یا بخشی از اطلاعاتی که در هر لحظه «به یاد میمانند». هر بار که چتجیپیتی به ساعت سیستم مراجعه میکند، یک قطعه اطلاعات به آن پنجرهٔ زمینه اضافه میشود — برای مثال دیگر، تصور کنید کسی در هر ثانیه یک ساعت متوقفشده را روی میز میچیند. «اگر شروع به افزودن موارد بیشتر به میز خود کنید، در نهایت مجبور خواهید شد برخی از آنها را از میز بیرون ببرید»، کولباشیان افزود.
بهطور کافی بهروزرسانی شود، انباشت ساعتها میتواند صرفاً بهعنوان نویز برای سیستم هوش مصنوعی عمل کند. «ممکن است ربات را مدام سردرگم کنید»، گفت کولباشیان. «اگر ما در حال گفتگو هستیم و هر از گاهی کسی میگوید: «ساعت ۵:۴۵ است». «حالا ساعت ۵:۴۶ است».» در مقابل، چیزی شبیه تاریخ بهراحتی میتواند در یک پرامپت سیستمی در ابتدای گفتگو گنجانده شود — که یکی از نشتهای آشکار پرامپت سیستمی چتجیپیتی بهنظر میرسد این را نشان میدهد.
کاربران چتجیپیتی میتوانند زمان را بدون دردسر زیاد، با درخواست از ربات برای جستجوی آن، بهدست آورند. (برخی دیگر از چتباتها، مانند گوگل جمینی، بهطور خودکار زمان را جستجو میکنند.) همچنین میتوانید از یک پروتکل زمینه مدل متنباز برای اتصال یک برنامهٔ هوش مصنوعی به دادههای خود استفاده کنید. با این حال، ارسال مدلهای هوش مصنوعی برای جستجو در وب یا اجازه دسترسی به دادههای شخصی خطراتی به همراه دارد، مانند تزریق پرامپتهای مخرب که در سراسر اینترنت پراکندهاند، مینروینی گفت.
مینروینی، که بهعنوان بخشی از تحقیقات خود ضعفهای پنهان فناوری هوش مصنوعی مصرفکننده را شناسایی میکند، میگوید واقعاً فهرست کاملی از وظایف مرتبط با زمان که هنوز تسلط ندارد، وجود دارد. او مدلهای پیشرو را با تصاویر ساعتهای عقربهای تحریک کرده و دریافت که مدلها در خواندن موقعیت دو عقربهٔ ساعت مشکل دارند. تقویمها هم «عجیب» هستند، او به من گفت.
شاید مسئلهٔ بزرگتر برای کاربر عادی این باشد که چتجیپیتی نمیتواند بهطور قابلاعتمادی محدودیتهای خود را روشن کند. یک دستیار انسانی که صرفاً زمان را نمیداند قابلقبول است؛ اما کسی که بهطور منظم دروغ میگوید دربارهٔ دانستن زمان، احتمالاً اخراج میشود. اما البته، مدلهای بزرگ زبانی دروغ نمیگویند — آنها همانطور که همیشه پیشبینی میکنند، چه چیزی میخواهید بشنوید.
کریستنسن از OpenAI گفت: «ما در حال ادامهٔ بهبود مطمئنبودن چتجیپیتی در مورد زمان انجام این کار هستیم».