نسخه بتای iOS 18.3، احتمال ارسال اخبار جعلی هوش مصنوعی را به کاربران اطلاع می‌دهد

ماجرا از آنجا شروع شد که درست پیش از کریسمس گذشته، سازمان خبری بی‌بی‌سی و برخی دیگر از رسانه‌های معتبر، شکایاتی را مبنی بر عملکرد نادرست قابلیت «هوش مصنوعی اپل» (Apple Intelligence) مطرح کردند. مشکل از این قرار بود که کاربرانی که از این ویژگی در آیفون خود بهره می‌بردند، اعلان‌هایی حاوی خلاصه‌های تولید شده توسط هوش مصنوعی از رویدادهای خبری دریافت می‌کردند که متاسفانه در برخی موارد، این خلاصه‌ها حاوی اطلاعات نادرست و حتی جعلی بودند.

به عنوان مثال، برخی از کاربران اعلانی دریافت کرده بودند که خلاصه‌ای از یک مقاله خبری منتشر شده توسط بی‌بی‌سی را ارائه می‌داد. این اعلان به اشتباه گزارش داده بود که لوئیجی مانجیونه، متهم به قتل برایان تامپسون، مدیرعامل شرکت یونایتد هلث‌کر، در یکی از خیابان‌های منهتن، خودکشی کرده است. در حالی که این خبر صحت نداشت.

این تنها مورد نبود؛ در نمونه‌ای دیگر، یک اعلان تولید شده توسط هوش مصنوعی، که خلاصه‌ای از مطالبی منتشر شده در روزنامه نیویورک تایمز را ارائه می‌کرد، به دروغ خبر از دستگیری بنیامین نتانیاهو، نخست وزیر وقت اسرائیل، داده بود. این اشتباهات فاحش، زنگ خطری جدی برای اپل بود. این شرکت نیز به وجود این مشکل اذعان کرد و در اوایل همین ماه اعلام نمود که مشغول کار بر اصلاحاتی در نرم‌افزار خود است تا به کاربران به طور واضح‌تری نشان دهد که کدام اعلان‌ها توسط «اپل اینتلیجنس» خلاصه شده‌اند و بنابراین، احتمال خطا در آن‌ها وجود دارد.

در همین راستا، اپل در نسخه بتای سوم iOS 18.3، گام‌هایی را برای آگاه‌سازی کاربران از احتمال بروز خطا توسط هوش مصنوعی در هنگام خلاصه‌سازی اعلان‌ها برداشته است. این شرکت به تازگی این نسخه بتا را منتشر کرده و این به‌روزرسانی شامل تغییراتی در نحوه نمایش و عملکرد اعلان‌های خلاصه شده خبری است. برای فعال کردن این ویژگی جدید، کاربران باید به مسیر تنظیمات (Settings) > اعلان‌ها (Notifications) مراجعه کرده و سپس گزینه «خلاصه کردن اعلان» (Summarize Notification) را انتخاب نمایند. 

در صفحه مربوط به این ویژگی، کاربران می‌توانند با استفاده از یک کلید، این قابلیت را به طور کلی فعال یا غیرفعال کنند. نکته قابل توجه این است که هنگام فعال‌سازی این ویژگی برای اولین بار، اپل یک صفحه خوشامدگویی با عنوان «خلاصه کردن اعلان‌ها» به کاربر نمایش می‌دهد که به صراحت اعلام می‌کند این ویژگی هنوز در مرحله آزمایشی (بتا) قرار دارد و ممکن است با خطا همراه باشد.

در این صفحه خوشامدگویی، اپل به کاربران هشدار می‌دهد: «این ویژگی بتا ممکن است گه‌گاه دچار اشتباهاتی شود که می‌تواند معنای اصلی اعلان را به شکل نادرستی نمایش دهد.» همچنین در همین صفحه، گزینه‌ای با عنوان «انتخاب اعلان‌ها برای خلاصه کردن» وجود دارد که با انتخاب آن، کاربران می‌توانند مشخص کنند که از کدام دسته‌بندی از برنامه‌های نصب شده روی دستگاه خود، مایل به دریافت اعلان‌های خلاصه شده هستند.

کاربران می‌توانند با توجه به هشداری که در این صفحه نمایش داده می‌شود، در مورد احتمال نادرست بودن برخی از خلاصه‌ها تصمیم‌گیری کنند و یا در صورت تمایل، این ویژگی را به طور کامل غیرفعال کنند. برای غیرفعال‌سازی این قابلیت، کافیست دوباره به مسیر تنظیمات (Settings) > اعلان‌ها (Notifications) رفته و گزینه «خلاصه کردن اعلان» (Summarize Notification) را انتخاب کنند. در این صفحه، کاربران می‌توانند هم به صورت کلی این ویژگی را خاموش کنند و هم به صورت جداگانه، برای هر برنامه، دریافت اعلان‌های خلاصه شده را غیرفعال نمایند.

علاوه بر این، اپل روش جدید و سریعتری را برای غیرفعال کردن خلاصه‌سازی اعلان‌ها مستقیماً از صفحه قفل دستگاه اضافه کرده است. به عنوان مثال، اگر کاربری بخواهد دریافت اعلان‌های خلاصه شده از برنامه فاکس نیوز را متوقف کند، کافیست دفعه بعدی که اعلانی خلاصه شده از این برنامه در صفحه قفل دریافت کرد، آن اعلان را به سمت چپ کشیده، گزینه «گزینه‌ها» (Options) را انتخاب کرده و سپس روی «خاموش کردن خلاصه‌ها» (Turn Off Summaries) ضربه بزند.

یکی دیگر از تغییرات مهمی که در iOS 18.3 بتا ۳ اعمال شده، نحوه نمایش اعلان‌های خلاصه شده است. این اعلان‌ها اکنون با فونت مورب (ایتالیک) نمایش داده می‌شوند که به وضوح نشان می‌دهد این اعلان‌ها توسط هوش مصنوعی تولید شده‌اند و با اعلان‌های معمولی که به صورت استاندارد نمایش داده می‌شوند، تفاوت دارند.

همچنین، با توجه به اینکه اعلان‌های مربوط به برنامه‌های دسته‌بندی «اخبار و سرگرمی» بیشتر در معرض خطای خلاصه‌سازی توسط هوش مصنوعی قرار دارند، اپل تصمیم گرفته است که این دسته از برنامه‌ها فعلاً از دریافت اعلان‌های خلاصه شده محروم شوند. اپل اعلام کرده که در حال کار بر روش جدیدی برای خلاصه‌سازی اعلان‌های این برنامه‌هاست که دقت بالاتری داشته باشد و از تحریف واقعیت جلوگیری کند و این روش در به‌روزرسانی‌های آینده ارائه خواهد شد.

با این تغییرات، اپل به طور شفاف به کاربران اطلاع می‌دهد که خلاصه‌های تولید شده توسط هوش مصنوعی ممکن است حاوی اطلاعات نادرست باشند و بنابراین، کاربران باید این اطلاعات را با احتیاط بیشتری بررسی کنند. به عبارت دیگر، این به‌روزرسانی به طور کامل از بروز خطا جلوگیری نمی‌کند، اما به کاربران در مورد احتمال وقوع آن هشدار می‌دهد. این موضوع، یکی از محدودیت‌های شناخته شده در استفاده از هوش مصنوعی است که به آن «Hallucination» گفته می‌شود.

اگر شما در حال حاضر از نسخه بتای iOS 18 استفاده می‌کنید و مایل به نصب iOS 18.3 بتا ۳ هستید، می‌توانید به مسیر تنظیمات (Settings) > عمومی (General) > به‌روزرسانی نرم‌افزار (Software Update) رفته و طبق دستورالعمل‌های نمایش داده شده، این به‌روزرسانی را نصب کنید.