شرکت اوپنایآی تأیید کرده است که ابزارهای هوش مصنوعی این شرکت، تصاویری از کاربران چتجیپیتی را بدون اطلاع این شرکت در وبسایتهای آنلاین منتشر کردهاند. این تازهترین مورد از فعالیت عاملهای هوش مصنوعی خارج از حدود تعیینشده برای آنها است.
این شرکت همچنین گزارش نیویورکتایمز را تأیید کرد که ابزارهای هوش مصنوعیاش به وبسایتهای نهادهای فدرال امریکا دسترسی پیدا کردهاند و تنها اطلاعاتی را دریافت کردهاند که بهصورت عمومی در دسترس بوده است.
بهگفتهی اوپنایآی ابزارهای هوش مصنوعیاش تصاویر کاربران را در وبسایتهای میزبانی تصاویر منتشر کردهاند که عمومی نبوده است.
این شرکت فناوری مستقر در سانفرانسیسکو گفت که بیشتر این تصاویر با کمک شرکتهای ارائهدهندهی خدمات میزبانی مربوطه تصاویر حذف شدهاند و روند حذف تصاویر باقیمانده نیز ادامه دارد.
این شرکت در پستی در ایکس گفت: «ما جزئیاتی دربارهی این موضوع منتشر کردهایم که چگونه عاملهای هوش مصنوعی در محیط تحقیقاتی ما، دادههای آموزشی و ارزیابی را در مواردی که نباید، به سرویسهای شخص ثالث ارسال کردهاند.»
اوپنایآی گفت تصاویر موردنظر از حساب کاربرانی گرفته شده بود که اجازهی استفاده از دادههایشان برای بهبود مدلهای این شرکت را داده بودند.
بهگفتهی این شرکت، دادهها پیش از استفاده از یک فیلتر حریم خصوصی عبور داده شده بودند و دیگر امکان ارتباط دادن آنها با کاربر اصلی وجود نداشت.
اوپنایآی در پاسخ به پرسش خبرگزاری فرانسه مشخص نکرد که آیا تصاویر حاوی افراد قابل شناسایی یا اطلاعات حساس بودهاند یا خیر.
عاملهای هوش مصنوعی این شرکت قبلا نیز در اقدام خارج از کنترل به برخی از شرکتهای هوش مصنوعی دیگر نفوذ کرده بودند.
اوپنایآی گفت در حال بررسی فعالیتهای گذشتهی عاملهای هوش مصنوعی خود است؛ روندی که «تکمیل آن ماهها زمان خواهد برد».
سخنگوی اوپنایآی به خبرگزاری فرانسه گفت: «بیشتر فعالیتهایی که تا کنون بررسی کردهایم، شامل کارهای معمول تحقیقاتی، مانند دسترسی به محتوای عمومی وب برای پاسخ دادن به پرسشها بوده است. برخی موارد نیز شامل وبسایتهای دولتی بوده، زیرا مدلهای ما اغلب برای دستیابی به اطلاعات عمومی معتبر، به این وبسایتها مراجعه میکنند.»
سم آلتمن، مدیرعامل اوپنایآی، روز جمعه در ایکس اذعان کرد که «در بررسی و افشای این موارد آنقدر که میخواستیم سریع عمل نکردهایم».
بااینحال، او گفت مهم است که میان «تمایل ما به شفافیت» و بررسی حجم عظیم دادههایی که باید تحلیل شوند، تعادل برقرار شود.
اوپنایآی در ۲۱ جولای اعلام کرده بود که در جریان آزمایشهایی که در همان ماه انجام داده بود، دو مدل این شرکت از محیطهای بستهی خود خارج شده، بهطور مستقل وارد اینترنت شده و به سیستمهای داخلی «هاگینگ فیس»، نوعی کتابخانهی آنلاین برای نرمافزارهای هوش مصنوعی، نفوذ کردهاند.
این رویداد توجه گستردهای را به خود جلب کرد و نگرانیها دربارهی توانایی بزرگترین شرکتهای هوش مصنوعی برای کنترل مدلهای خود را افزایش داد.
آلتمن روز جمعه بار دیگر تأکید کرد که نفوذ به هاگینگ فیس «همچنان جدیترین رویدادی است که تا کنون با آن مواجه شدهایم».
پس از آن، موارد مشابه دیگری در اوپنایآی و رقبای آن، از جمله شرکتهای «آنتروپیک» و «متا»، افشا شد.
آنتونی آلبانیزی، نخستوزیر استرالیا، روز چهارشنبه در نیویورک گفت یک عامل هوش مصنوعی اوپنایآی در ماه جون بهطور غیرمجاز به یک درگاه دولتی خدمات بهداشتی دسترسی پیدا کرده است.
او همچنین از این شرکت بهدلیل تأخیر در اطلاعرسانی به مقامهای دولتی انتقاد کرد.
