ذهن ماشینها معمولا با عنوان جعبهی سیاه توصیف میشود. فرایندهای تصمیمگیری آنها مرموز و غیر قابل درک است. اما در مورد هوش ماشینی قضیه فرق میکند. محققان میخواهند آن جعبهی سیاه را بگشایند و نگاهی به درون آن بیندازند. آنچه که آنها پی بردهاند این است که انسانها و ماشینها وقتی به تصاویر نگاه میکنند، اصلا به چیزهای مشابهی توجه نمیکنند.
به گزارش سادس محققان فیسبوک و دانشگاه پلیتکنیک ویرجینیا تصاویری را به انسانها و ماشینها نشان دادند و سپس از آنها سوالات سادهای بر اساس آن عکسها پرسیدند. اما پاسخ این سوالات برای محققان اهمیت نداشت. آنها میخواستند نقشهای از نکات مورد توجه انسان و هوش مصنوعی تهیه کنند تا دربارهی تفاوتهای ما با آنها اطلاعاتی به دست بیاورند.
«لارنس زیتنیک»، از مرکز تحقیقات هوش مصنوعی فیسبوک میگوید: «ما میتوانیم این نقشههای توجه را در انسانها و ماشینها بررسی کنیم.» زیتنیک و همکارانش از انسانها خواستند تا به سوالات سادهای مثل «آن مرد چه کار میکند؟» یا «چند گربه روی تخت دراز کشیدهاند» پاسخ دهند. این تصاویر کمی تار شده بودند و افراد برای واضح کردن آنها باید روی قسمتهای مختلف عکس کلیک میکردند. نقشهی آن کلیکها نشان میدهد که سوژههای مورد مطالعه به کدام قسمت تصویر توجه میکردند. محققان همین کار را برای دو ماشین مبتنی بر شبکهی عصبی تکرار کردند.
این تیم پی بردند که امتیاز همپوشانی نقشهی توجه در دو انسان ۰٫۶۳ بود. در این مقیاس ۱ نمایانگر همپوشانی کامل و منفی یک نشاندهندهی عدم همپوشانی است. همپوشانی میان انسان و هوش مصنوعی هم ۰٫۲۶ بود. با این حال، شبکههای عصبی بهتر توانستند بفهمند که تصویر چه چیزی را نشان میدهد.
«دروف باترا» از دانشگاه ویرجینیا میگوید «موارد و نکات مورد توجه ماشینها با انسانها فرق دارد. این نشان میدهد که ما نمیدانیم آنها بر چه مبنایی تصمیم میگیرند.» این اختلاف بین انسان و ماشین میتواند منبع الهامبخش و مفیدی برای محققان باشد تا شبکههای عصبی را تغییر دهند. باترا میپرسد: «آیا میتوانیم آنها را به انسانها شبیهتر کنیم؟ آیا این به معنی دقت بیشتر است؟»