میلاد معین الدینی دانشجوری ارشد هوش مصنوعی دانشگاه باهنر کرمان در گفتگو با خبرنگار علم و فناوری در خصوص هوش مصنوعی و کاربرد های آن گفت: اعتماد به هوش مصنوعی  موضوع مهم و ترسناکی بوده که بر اساس تازه‌ترین پیشرفت‌های علمی، نیازی به نگرانی در مورد آن وجود ندارد؛ اما اینکه چند درصد می شود به این هوش مصنوعی اعتماد کرد، کار دشواری است.

این دانشجو ادامه داد: دانشمندان به تازگی اعلام کرده‌اند که این فناوری شگفت‌انگیز به حدی از پیشرفت رسیده که خودش می‌تواند قابل اعتماد بودن خودش را تشخیص دهد اما با قاطعیت نمی توان گفت که در این شرایط می شود به هوش مصنوعی و تکنولوژی  اعتماد کرد یا خیر؟

وی ادامه داد:به طور مثال در قسمت مهمی از فیلم ترمیناتور هوش مصنوعی اسکای نت (Skynet) از مرحله‌ای به بعد کنترل زرادخانه هسته‌ای آمریکا را به دست می‌گیرد و یک آخرالزمان تکنولوژیکی را به وجود می‌آورد؛ حال اگر تصور کنید که چنین فناوری خود به خود این قابلیت را داشته باشد که قابل اعتماد بودن خودش را تشخیص دهد، در این شرایط مطمئنا آخرالزمانی که در ترمیناتور به تصویر کشیده شده بود، رخ نمی‌داد.

معین الدینی افزود:  موضوع اعتماد به هوش مصنوعی از همان ابتدای پیشرفت‌های AI مورد توجه بسیاری از دانشمندان بود و در حال حاضر هم بسیاری از تصمیم‌گیری‌های مهم مرتبط با جان انسان‌ها، توسط این فناوری انجام می‌شوند،تصمیم گیری‌هایی مانند عملکرد اتومبیل‌های خودران، تشخیص‌های پزشکی داخل بیمارستان‌ها و کاربردهای دیگری که روز به روز رو به افزایش هستند.

وی تاکید کرد: به صورت کلی می‌توان گفت؛ که فناوری هوش مصنوعی از شبکه‌های عصبی تشکیل شده که به منظور تقلید کردن از عملکرد مغز انسان طراحی شده‌اند؛ که این کار را با مقایسه کردن چندین گزینه در کنار یکدیگر انجام می‌دهد و در عین حال، می‌تواند در حجم فوق‌العاده زیادی داده، الگوهایی را کشف کند که مغز انسان قادر به آنالیز و پیدا کردن آن‌ها نیست.

این دانشجو در تحقیقات خود به عدم خطا در هوش مصنوعی اشاره کرد و گفت: چنین مسئله‌ای به ما یادآور می‌شود که در زمینه سر و کار داشتن با جان انسان‌ها، فناوری هوش مصنوعی باید با حداکثر دقت عمل کند و جای هیچ گونه اشتباهی وجود ندارد که علاوه بر نیاز بشریت به مدل‌ها و سیستم‌هایی که عملکرد بالایی دارند، ما انسان‌ها باید بدانیم که دقیقا چه موقع می‌توان به این سیستم‌ها اعتماد کرد و چه موقع نباید اختیار تصمیم‌گیری‌های مهم را به ماشین‌ها سپرد.

وی وجود هوش مصنوعی در خودروهای خود ران را مثال زد و افزود: در این خودروها هوش مصنوعی موجود بر اساس اطلاعاتی که از محیط اطراف دارد، می‌تواند در مورد گذر کردن از یک سه راهی و یا صبر کردن برای عبور ماشین‌ها و امن‌تر شدن شرایط تصمیم‌گیری کند. برای چنین موضوعی، در یک مرحله خاص از فرآیند تصمیم‌گیری، AI موجود باید مشخص کند که آیا می‌تواند به داده‌های در دسترس اعتماد کند یا خیر؟ اما برخی تحقیقات نشان داده است که  سرعت بالای پردازش برخی سیستم ها بدون نیاز به قدرت پردازشی زیاد، تصمیم‌گیری خود را انجام می‌دهد.

پژوهش گر جوان  به یکی از سیستم های محبوب که در یکی از دانشگاه های امریکایی با عنوان سیستم ai معروف شده است ،گفت: در کمال شگفتی در مواردی که اطمینان هوش مصنوعی به نتایج ارائه شده پایین‌ترین میزان ممکن بود، نتایج مورد نظر هم خطای بیشتری داشتند این سیستم شگفت‌انگیز می‌توانست تصاویری که از محدوده تصمیم‌گیری آن خارج بودند را مشخص کند و نیاز به در دست داشتن اطلاعات بیشتر را مشخص کند. به عنوان مثال چنین قابلیتی در دنیای پزشکی به AI اجازه می‌دهد تا نیاز به معاینه مجدد توسط پزشک را مشخص کرده و از انسان‌های هدایت‌گرش بخواهد که مجددا وضعیت بیمار مورد نظر را بررسی کنند.

این دانشجوی نخبه افزود: همه روزه شاهد وارد شدن حجم بیشتری از شبکه‌های عصبی هوش مصنوعی به دنیای واقعی هستیم و با گذر زمان، ارتباط فناوری مورد نظر با تصمیم‌گیری‌هایی که به جان انسان‌ها مربوط می‌شوند، بیشتر شده است، با این حال هر شخصی که به عملکرد هوش مصنوعی نظارت می‌کند، از سرنشینان یک اتومبیل خودران گرفته تا پزشکی که از یادگیری عصبی برای تشخیص‌های خود استفاده می‌کند، باید میزان ریسک موجود در هر تصمیم‌گیری AI را بداند.

معین الدینی اذعان کرد: در حال حاضر با پیشرفتی شگفت انگیز در ورود انواع تکنولوژی ها به ایران و جهان هستیم که روزگاری فقط در فلش مموری ها و فلاپی دیسک ها خلاصه می شد اما این فناوری ها اکنون جهان را در تسلط خود گرفته است و تنها با یک ساعت مچی ساده با قابیلیت هوشمند و فضای وب می توان به هر مسئله ای دسترسی یافت .

وی در پایان خاطر نشان کرد: چه ما انسان ها بخواهیم و چه نخواهیم هوش مصنوعی به زندگی ما وارد شده است و کودکان فعلی که بومیان نسل زی در هوش مصنوعی هستند عملا با این نوع از سبک زندگی خو گرفته و درحال ساخت و ساز های جدیدی در این مراحل هستند همین رباتیک ها و نرم افزار نویسی دانش اموزان نشان می دهد که هوش مصنوعی جلوتر ازآنچه به نظر می رسد به زندگی و سبک لذایذ ما تاثیر گزارده اند .