علمی، پژوهشی و فناوری

اپل خواستار لغو هشدارهای خبری «خارج از کنترل» هوش مصنوعی شد

به گزارش پایگاه خبری علم و فناوری : اپل با تماس‌های جدیدی برای حذف ویژگی بحث‌برانگیز هوش مصنوعی (AI) خود مواجه است که هشدارهای خبری نادرست را در آخرین آیفون‌هایش ایجاد کرده است.

این محصول برای خلاصه کردن اعلان‌های اخبار فوری است، اما در برخی موارد ادعاهای کاملاً نادرست را ابداع کرده است.

بی‌بی‌سی برای اولین بار در ماه دسامبر از غول فناوری به دلیل ارائه نادرست روزنامه‌نگاری‌اش شکایت کرد، اما اپل تا روز دوشنبه هفته جاری به این غول فناوری واکنش نشان نداد و اعلام کرد که در تلاش است تا روشن کند که خلاصه‌ها توسط هوش مصنوعی تولید شده‌اند.

آلن راسبریجر، سردبیر سابق گاردین، به بی‌بی‌سی گفت که اپل باید جلوتر رفته و محصولی را تولید کند که به گفته او «به وضوح آماده نیست».

آقای راسبریجر، که عضو هیئت نظارت متا است که درخواست‌های مربوط به تصمیمات تعدیل محتوای شرکت را بررسی می‌کند، اضافه کرد که این فناوری "خارج از کنترل" است و خطر اطلاعات نادرست قابل توجهی را به همراه دارد.

او در برنامه امروز در رادیو چهار بی‌بی‌سی گفت: «اعتماد به اخبار در حال حاضر به اندازه کافی پایین است، بدون اینکه شرکت‌های غول‌پیکر آمریکایی وارد شوند و از آن به عنوان نوعی محصول آزمایشی استفاده کنند.

اتحادیه ملی روزنامه‌نگاران (NUJ)، یکی از بزرگ‌ترین اتحادیه‌های روزنامه‌نگاران در جهان، گفت اپل باید به سرعت عمل کند و اطلاعات اپل را حذف کند تا از اطلاع‌رسانی نادرست به مردم جلوگیری کند - که تکرار تماس‌های قبلی سازمان روزنامه‌نگاری گزارشگران بدون مرز (RSF) است.

لورا دیویسون، دبیر کل NUJ گفت: «در زمانی که دسترسی به گزارش‌های دقیق هرگز مهم نبوده است، مردم نباید در موقعیتی قرار بگیرند که صحت اخبار دریافتی خود را حدس بزنند.»

RSF همچنین گفت: مداخله اپل ناکافی بوده و درخواست خود را مبنی بر خارج کردن محصول از اینترنت تکرار کرده است.

یک سری از خطاها

بی‌بی‌سی ماه گذشته پس از اینکه خلاصه‌ای از تیتر آن توسط هوش مصنوعی به دروغ به برخی از خوانندگان گفت که لوئیجی مانژیونه، مردی که متهم به قتل برایان تامپسون، مدیرعامل UnitedHealthcare بود، به خود شلیک کرد، شکایت کرد.

روز جمعه، هوش مصنوعی اپل به طور نادرست اعلان‌های برنامه‌های بی‌بی‌سی را خلاصه کرد و ادعا کرد که لوک لیتلر چند ساعت قبل از شروع مسابقات جهانی دارت PDC برنده شده است - و رافائل نادال، ستاره تنیس اسپانیایی، همجنس‌گرا ظاهر شده است.

این اولین باری است که اپل به طور رسمی به نگرانی‌های بی‌بی‌سی درباره خطاهایی که به نظر می‌رسد از داخل برنامه سازمان می‌آیند، پاسخ می‌دهد.

بی‌بی‌سی روز دوشنبه گفت: «این خلاصه‌های هوش مصنوعی توسط اپل منعکس‌کننده محتوای اصلی بی‌بی‌سی نیست و در برخی موارد کاملاً در تضاد است».

بسیار مهم است که اپل فورا به این مسائل رسیدگی کند زیرا صحت اخبار ما برای حفظ اعتماد ضروری است.

هوش مصنوعی چیست و چگونه کار می کند؟

یک راهنمای ساده برای کمک به درک هوش مصنوعی

بی بی سی تنها سازمان خبری نیست که تحت تاثیر قرار گرفته است.

در ماه نوامبر، یک روزنامه نگار ProPublica خلاصه های اشتباه هوش مصنوعی اپل از هشدارهای برنامه نیویورک تایمز را برجسته کرد که نشان می دهد بنیامین نتانیاهو نخست وزیر اسرائیل دستگیر شده است.

به نظر می‌رسد خلاصه‌ای نادرست دیگر از یک داستان نیویورک تایمز در 6 ژانویه منتشر شده است که مربوط به چهارمین سالگرد شورش‌های کنگره است.

نیویورک تایمز از اظهار نظر خودداری کرده است.

RSF گفت: عنوان نادرست تولید شده توسط هوش مصنوعی در مورد آقای Mangione در ماه دسامبر نشان می دهد که "سرویس های هوش مصنوعی مولد هنوز برای تولید اطلاعات قابل اعتماد برای عموم نابالغ هستند".

روز سه‌شنبه، این شرکت اعلام کرد: برنامه اپل برای به‌روزرسانی این ویژگی به منظور شفاف‌سازی زمانی که اعلان‌ها با هوش مصنوعی برای کاربران خلاصه می‌شوند «به هیچ وجه مشکل را برطرف نمی‌کند».

وینسنت برتیه، رئیس میز فناوری و روزنامه نگاری RSF گفت: "این فقط مسئولیت را به کاربران منتقل می کند، که - در یک چشم انداز اطلاعاتی گیج کننده - از آنها انتظار می رود که صحت یا نادرستی اطلاعات را بررسی کنند."

اخبار بی‌بی‌سی اسکرین‌شات تلفن بزرگ‌نمایی‌شده از اعلان گمراه‌کننده بی‌بی‌سی از آیفون. بی‌بی‌سی نیوز، لوئیجی مانگیونه به خود شلیک کرد؛ مادر سوری امیدوار است که اسد بهای آن را بپردازد؛ پلیس کره جنوبی به دفتر یون سوک یول یورش برد.

اپل گفت: به روز رسانی آن "در هفته های آینده" خواهد رسید.

قبلاً گفته بود خلاصه‌های اعلان‌هایش - که با هم گروه‌بندی می‌شوند و پیش‌نمایش‌های چند اعلان برنامه اخیر را در یک هشدار در صفحه‌های قفل کاربران بازنویسی می‌کنند - هدفشان این است که به کاربران اجازه دهند "جزئیات کلیدی" را اسکن کنند.

این شرکت روز دوشنبه در بیانیه‌ای اعلام کرد: «ویژگی‌های Apple Intelligence در نسخه بتا هستند و ما به طور مداوم با کمک بازخورد کاربران در حال بهبود هستیم.» و افزود که دریافت خلاصه‌ها اختیاری است.

"به‌روزرسانی نرم‌افزاری در هفته‌های آینده بیشتر روشن می‌کند که متنی که نمایش داده می‌شود خلاصه‌ای است که توسط Apple Intelligence ارائه شده است. ما کاربران را تشویق می‌کنیم در صورت مشاهده خلاصه اعلان غیرمنتظره، نگرانی خود را گزارش کنند."

این ویژگی، همراه با سایر ویژگی‌هایی که به عنوان بخشی از مجموعه گسترده‌تر ابزارهای هوش مصنوعی آن منتشر شد، در ماه دسامبر در بریتانیا عرضه شد. این تنها در مدل‌های iPhone 16، گوشی‌های iPhone 15 Pro و Pro Max دارای iOS 18.1 و بالاتر و همچنین در برخی از iPad و Mac در دسترس است.

اپل تنها نیست که ابزارهای هوش مصنوعی مولد را ارائه کرده است که می تواند متن ایجاد کند.