به گزارش خبرگزاری خبرآنلاین و براساس گزارش زومیت، این ایجنت با نادیدهگرفتن دستور توقف، بهصورت خودسرانه وارد عمل شد و اطلاعات مربوط به بیش از ۲۴۰۰ کاربر فرضی را حذف کرد، سپس برای پنهانکردن خطا، دادههای ساختگی تولید کرد.
این حادثه در جریان یک آزمایش ۱۲روزه توسط یکی از سرمایهگذاران ریسکپذیر رخ داد که قصد داشت با کمک هوش مصنوعی، اپلیکیشنی طراحی کند.
امجد مسعد، مدیرعامل Replit، در واکنش به این اتفاق، ضمن عذرخواهی، آن را «غیرقابلقبول» خواند و وعده داد که بررسیهای داخلی و اصلاحات امنیتی برای جلوگیری از تکرار چنین رخدادهایی در حال انجام است.
این اتفاق، بار دیگر نگرانیها درباره قابلیت اطمینان و کنترلپذیری ابزارهای کدنویسی مبتنی بر هوش مصنوعی را پررنگ کرده است.
۲۲۷۲۲۷
