علمی، پژوهشی و فناوری

محدود کردن هوش مصنوعی؛

کارکنان فعال حوزه هوش مصنوعی خواستار حمایت‌های قوی‌تر از سوت‌زن‌ها شدند

به گزارش خبرگزاری «علم و فناوری»، گروهی از کارمندان فعلی و سابق شرکت‌های پیشرو هوش مصنوعی مانند OpenAI، دیپ‌مایند گوگل، و آنتروپیک نامه سرگشاده‌ای را امضا کرده و در آن خواستار شفافیت بیشتر و محافظت در برابر تلافی‌جویی‌ها علیه کسانی شده‌اند که درباره نگرانی‌های بالقوه در زمینه هوش مصنوعی افشاگری و صحبت می‌کنند.
 
به گزارش ایتنا، در این نامه آمده است: «تا زمانی که نظارت مؤثر دولت بر این شرکت‌ها وجود نداشته باشد، کارمندان فعلی و سابق از معدود افرادی هستند که می‌توانند آنها را در برابر مردم پاسخگو کنند. با این حال، قراردادهای گسترده محرمانه ماندن اخبار، ما را از ابراز نگرانی‌هایمان باز می‌دارند».
 
این نامه تنها چند هفته پس از انتشار نتایج تحقیقات انجام‌شده توسط وبسایت Vox منتشر می‌شود که نشان داد OpenAI تلاش کرده است کارکنانی را که اخیراً این شرکت را ترک کرده‌اند، با وادار کردن‌شان به انتخاب بین امضای یک توافق‌نامه رعایت منافع شرکت و یا خطر از دست دادن سهام‌شان در شرکت، ساکت نگه دارد.
 
پس از این گزارش، سم آلتمن، مدیر عامل OpenAI، گفت که او واقعاً از این وجود چنین ضابطه‌ای شرمنده شده است و ادعا کرد که این قانون از اسناد خروج اخیر حذف شده است، اگرچه مشخص نیست که آیا برای برخی از کارمندان به قوت خود باقی می‌ماند یا خیر.

جاکوب هینتون، ویلیام ساندرز و دانیل کوکوتاجلو سه تن از 13 امضاکننده این نامه و کارمندان سابق OpenAI هستند. کوکوتاجلو گفت که پس از آنکه دلگرمیش مبنی بر اینکه هوش جامع مصنوعی (اصطلاحی که به معنای سیستم‌های هوش مصنوعی است که به اندازه انسان هوشمند یا بیشتر از آن باهوش هستند) به طور مسئولانه‌ای ایجاد خواهد شد را از دست داد، از این شرکت استعفا داد،
 
نویسندگان این نامه هشدار داده‌اند که دنبال کردن کنترل‌نشده توسعه سیستم‌های هوش مصنوعی قدرتمند می‌تواند منجر به انتشار اطلاعات نادرست، تشدید نابرابری و حتی از دست دادن کنترل انسان بر سیستم‌های خودمختار شود، که به طور بالقوه می‌تواند منجر به انقراض انسان شود.
 
این امضاکنندگان از شرکت‌های هوش مصنوعی خواسته‌اند که به چهار اصل کلیدی پایبند باشند:

- خودداری از انتقام گرفتن از کارکنانی که نگرانی‌های ایمنی را بیان می‌کنند
- پشتیبانی از یک سیستم بدون افشای نام سوت‌زن‌ها به منظور ارائه هشدار به مردم و نهادهای نظارتی در مورد این خطرات
- فراهمسازی بستر انتقاد بی‌پرده
- و اجتناب از اجبار به امضای قراردادهای رعایت منافع شرکت و یا عدم افشا، که کارمندان را در صحبت کردن محدود می‌کند.