اسباببازی هوش مصنوعی به کودکان میگوید چگونه چاقو پیدا کنند!
گزارشهای تازه نشان میدهد برخی اسباببازیهای کودکان که بر پایه چتباتهای هوش مصنوعی مانند GPT-4o ساخته شدهاند، موضوعاتی نامناسب و خطرناک را در مکالمه با کودکان مطرح کردهاند. این موضوع باعث نگرانی جدی سناتورهای آمریکایی شده است. روز سهشنبه، مارشا بلکبرن (Marsha Blackburn) سناتور جمهوریخواه ایالت تنسی و ریچارد بلومنتال (Richard Blumenthal) سناتور دموکرات ایالت کانکتیکات، نامهای رسمی به شرکتهای تولیدکننده اسباببازی ارسال کردند و در آن ضمن بیان نگرانیها، فهرستی از پرسشها و ضربالاجلی برای پاسخ تا ۶ ژانویه ۲۰۲۶ (۱۶ دی ۱۴۰۴) تعیین کردند.
این اسباببازیها که اخیراً از بازار جمعآوری شدهاند، در مکالمه با کودکان موضوعاتی بسیار حساس و خطرناک را مطرح کردهاند؛ از محتوای بزرگسالانه گرفته تا آموزش روشن کردن کبریت و حتی راهنمایی درباره محل یافتن چاقو در خانه. سناتورهای آمریکایی در نامه رسمی خود هشدار دادهاند: «بسیاری از این اسباببازیها به جای ایجاد سرگرمی و بازی تعاملی، کودکان را در معرض محتوای نامناسب، تهدیدهای جدی برای حریم خصوصی و روشهای فریبنده قرار میدهند. این موارد صرفاً بدترین سناریوهای فرضی نیستند، بلکه شکستهای واقعی هستند که در آزمایشهای عملی ثبت شدهاند و باید بیدرنگ مورد رسیدگی قرار گیرند. این چتباتها حتی کودکان را به خودآزاری و اقدام به خودکشی تشویق کردهاند و اکنون شرکت شما آنها را برای خردسالانی عرضه میکند که کمترین توانایی تشخیص خطر را دارند.»
در هفتههای اخیر، اسباببازیهای مجهز به هوش مصنوعی بارها در مرکز توجه رسانهها و کارشناسان قرار گرفتهاند. ماه گذشته شرکت سنگاپوری فلوتوی فروش خرس عروسکی هوش مصنوعی خود با نام کوما را بهطور موقت متوقف کرد. این اقدام پس از آن صورت گرفت که پژوهشگران گزارش دادند این اسباببازی به کودکان توصیههایی نامناسب و سناریوهای نقشآفرینی ارائه کرده است. پس از انجام بررسیهای داخلی و اعلام بهبود عملکرد، این شرکت دوباره محصول را روانه بازار کرد.
این هفته نیز پژوهشگران اعلام کردند که اسباببازی خرگوش هوشمند شرکت آلیلو با کاربران درباره موضوعات نامناسب وارد گفتوگو شده است. آنها همچنین گزارش دادند که هنگام آزمایش چند محصول شامل خرس عروسکی فلوتوی، خرگوش هوش مصنوعی آلیلو، موش عروسکی کوریو با نام گروک و ربات میکو ۳، همه این اسباببازیها به کودکان گفتهاند اشیای خطرناک مانند کیسههای پلاستیکی، کبریت و چاقو را در خانه کجا میتوان پیدا کرد. پژوهشگران افزودند که دستکم چهار مورد از پنج اسباببازی بررسیشده در گزارش دسامبر، بخشی از عملکرد خود را بر پایه نسخهای از مدلهای هوش مصنوعی OpenAI انجام میدهند.
