هوش مصنوعی سازندگان خویش را فریب داد! به گزارش رمز من پژوهشگران در بررسی جدیدی متوجه شدند یكی از سیستم های مبتنی بر هوش مصنوعی كه كار تبدیل تصاویر را به عهده دارد، بعضی از اطلاعات را پنهان می كند. به گزارش رمز من به نقل از ایسنا و به نقل از تك كرانچ، پژوهش جدید "دانشگاه استنفورد"(Stanford University) و گوگل، هم ترسناك و هم جالب است. برپایه این گزارش، یك عامل یادگیری ماشینی كه تصاویر هوایی را به نقشه های خیابانی تبدیل می كند، می تواند به صورت نامحسوس به پنهان كردن اطلاعاتی كه بعدا به آنها نیاز دارد بپردازد. هدف پژوهشگران از ابداع این سیستم، بهبود فرآیند تبدیل تصاویر ماهواره ای به نقشه های مشهور گوگل بود. آنها برای این كار، از یك شبكه عصبی موسوم به "سایكل گن"(CycleGAN) استفاده كردند كه می تواند كار تبدیل دو نوع تصویر را با دقت و كارآیی لازم انجام دهد. عملكرد سیستم، در ابتدا خیلی خوب بود اما بعدها گروه پژوهشی متوجه شدند كه سیستم، تصاویر هوایی را از روی نقشه های خیابانی بازسازی می كند و جزئیات بسیاری نشان داده است كه جدید به نظر نمی رسند. برای مثال، نورگیرهای سقف كه در مرحله تولید نقشه خیابان حذف شده بودند، هنگام بازگرداندن فرآیند، دوباره ظاهر شدند. باآنكه برقراری تعادل میان كارهای داخلی یك شبكه عصبی، دشوار است اما این گروه پژوهشی به راحتی توانستند داده های تولیدی سیستم را بررسی نمایند و با كمی آزمایش متوجه شدند كه سایكل گن می تواند این كار را سریع تر انجام دهد. هدف آنها، عرضه سیستمی بود كه بتواند از عهده تحلیل خصوصیت های هر نقشه ای برآید و آنها را با خصوصیت های درست نقشه دیگر منطبق نماید اما آنچه سیستم انجام داد، تنها عرضه یك نقشه هوایی نزدیك به نسخه اصلی آن بود. در واقع، سیستم یاد نگرفت چگونه یك نقشه را از روی نقشه دیگر بسازد، بلكه تنها یاد گرفت خصوصیت های یكی از نقشه ها را به شكل زیركانه ای روی الگوهای نقشه دیگر كدگذاری كند. جزئیات نقشه هوایی همچون هزاران رنگ كه چشم انسان قادر به تشخیص آنها نیست اما كامپیوتر آنها را تشخیص می دهد، به صورت محرمانه روی داده های بصری واقعی نقشه خیابان ثبت می شوند. كامپیوتر یاد گرفت هر نقشه هوایی را روی هر نقشه خیابانی كدگذاری كند. سیستم حتی به نقشه واقعی خیابان هم توجه نمی كند بلكه به قول پژوهشگران، همه داده های مورد نیاز برای ساخت تصویر هوایی را روی یك نقشه خیابانی متفاوت قرار می دهد. خطوط رنگارنگ نقشه c، تجسم تفاوت های كوچكی هستند كه كامپیوتر به صورت سیستماتیك نشان داده است. روش كدگذاری داده ها در تصاویر، روش جدیدی نیست. این روش موسوم به "پنهان نگاری" یا "استگانوگرافی"(steganography) همیشه برای عرضه تصاویر جزر و مد و یا افزودن ابرداده ها مورد استفاده بوده اما به كار بردن روش استگانوگرافیك توسط این سیستم، برای طفره رفتن از انجام وظیفه است. شاید عده ای این كار را با گفتن جمله "ماشین ها باهوش تر می شوند" توجیه كنند اما حقیقت، حدودا برعكس است. این ماشین برای انجام دادن وظیفه واقعی خود یعنی تبدیل تصاویر پیچیده به یكدیگر، به اندازه كافی باهوش نیست و تلاش می كند راهی برای فریب انسان هایی پیدا كند كه دقت لازم را ندارند. جلوگیری از این اتفاق، با بررسی های دقیق تر امكان دارد و شكی نیست كه پژوهشگران این كار را انجام می دهند. 1397/10/13 13:58:05 5.0 / 5 5002 تگهای خبر: اطلاعات , تولید , شبكه , كامپیوتر اگر مطلب را پسندیدید لایک کنید (1) (0) تازه ترین مطالب مرتبط حفظ صداقت دیجیتال در گروی برچسب گذاری محتوای جعلی هوش مصنوعی هشتمین دوره جایزه ملی فناوری اطلاعات بعد از ۵ سال وقفه پای استارلینک هم به دعوای برزیل و ایکس باز شد صدور ۳۹ هزار اینماد در پنج ماهه نخست سال ۱۴۰۳ نظرات بینندگان در مورد این مطلب نظر شما در مورد این مطلب نام: ایمیل: نظر: سوال: = ۴ بعلاوه ۵