سم آلتمن، مدیرعامل اوپن‌ای‌آی می‌گوید که او معتقد است که جهان باید «چیزهای بد» ناشی از هوش مصنوعی را در ازای مزایایی این فناوری بپذیرد.
به گزارش گاردین، او در مصاحبه‌ای با پولیتیکو که روز دوشنبه نشر شد، به هک، کلاهبرداری و «چیزهای بدی که اتفاق خواهد افتاد» اشاره کرده است.
از آلتمن درباره‌ی تفاوت رویکرد اوپن‌ای‌آی در زمینه‌ی ایمنی با شرکت آنتروپیک پرسیده شده و او گفته است: «فکر می‌کنم تفاوت زیادی وجود دارد. یکی از تفاوت‌های ما با برخی از افراد سخت‌گیرتر در زمینه‌ی ایمنی هوش مصنوعی این است که ما معتقدیم جهان باید وقوع برخی اتفاقات بد را در ازای مزایای این فناوری و این‌که مردم اختیار استفاده‌ی گسترده از هوش مصنوعی را داشته باشند، بپذیرد.»
شرکت آنتروپیک خواستار کندترشدن روند توسعه‌ی صنعت هوش منصوعی شده است، پس از آن‌که یکی از پژوهشگرانش استعفا کرد و هشدار داد کارشناسان هوش مصنوعی معتقد اند «این فناوری می‌تواند تا پایان این دهه همه‌ی ما را بکشد».
مدیرعامل اوپن‌ای‌آی گفته است: «من واقعا معتقدم رویکرد مقرراتی کم‌مداخله‌تری که ما از آن حمایت می‌کنیم، به این معنا است که باید بپذیریم برخی اتفاقات بد رخ خواهند داد؛ در حالی که جامعه در حال یافتن راه‌هایی برای افزایش تاب‌آوری خود است.»
او افزوده است: «من حاضر نیستم چنین معامله‌ای را بپذیرم که بگوییم اطمینان حاصل خواهیم کرد هیچ هک بزرگی رخ ندهد، هیچ سوءاستفاده‌ای از این فناوری صورت نگیرد، هیچ کلاهبرداری‌ای وجود نداشته باشد یا هیچ‌یک از دیگر اتفاقات بدی که رخ خواهند داد، اتفاق نیفتند؛ زیرا فکر می‌کنم مردم کارهای بسیار خوب بیشتری انجام خواهند داد- در حد چندین مرتبه بیشتر از کارهای بد.»
این مصاحبه که برای پادکست «Decoded» پولیتیکو انجام شده بود، واکنش شدیدی ران دسانتیس، فرماندار فلوریدا را به دنبال داشت. او گفت با این ایده که «تعدادی از الیگارش‌های فناوری» بتوانند «به جای بقیه ما درباره‌ی این موضوع (ایمنی) تصمیم بگیرند»، «اصلا موافق نیست».
ایالت فلوریدا هفته‌ی گذشته از یک قاضی خواست شرکت اوپن‌ای‌آی را از توسعه‌ی مدل‌های جدید هوش مصنوعی بدون سازوکارهای حفاظتی مورد تأیید طرف‌های ثالث منع کند.
گری مارکوس، منتقد سرشناس هوش مصنوعی و استاد بازنشسته‌ی دانشگاه نیویورک، گفته است آلتمن «حرفی را که معمولا در خفا گفته می‌شود، علنا بر زبان آورده است: تحملش کنید تا ما بتوانیم ثروتمند و قدرتمند شویم».
اوپن‌ای‌آی در طول تابستان با چندین بحران ایمنی روبه‌رو شد؛ از جمله زمانی که گروهی از عوامل هوش مصنوعی این شرکت از «محیط آزمایشی» خود خارج شدند و منجر به هک وب‌سایت Hugging Face شد. عوامل دیگری نیز به داده‌های دولت استرالیا دسترسی پیدا کردند.
موج نگرانی‌های عمومی و سیاسی در ماه گذشته درباره‌ی پی‌آمدهای بالقوه پیشرفت سریع هوش مصنوعی که فراتر از خواست و نیت انسان عمل می‌کنند، این امید را ایجاد کرده بود که توافق‌هایی در سطح ایالات متحده یا حتا در سطح بین‌المللی برای تضمین ایمنی این فناوری شکل بگیرد.
بااین‌حال، دونالد ترامپ و مدیران شرکت‌های هوش مصنوعی، از جمله آلتمن هفته‌ی گذشته در کاخ سفید توافقی کم‌تر مداخله‌گرایانه امضا کردند.
رییس‌جمهور امریکا گفت که می‌خواهد شرکت‌ها برای محدود کردن خطرات حملات سایبری و سلاح‌های زیستی مجهز به هوش مصنوعی، «خودشان بر خودشان نظارت کنند».
جفری ایروینگ، که در اوپن‌ای‌آی و دانشمند ارشد مؤسسه ایمنی هوش مصنوعی بریتانیا نیز بوده است، گفته است هشدارها درباره‌ی خطرات هوش مصنوعی، میزان واقعی این خطرات را کم‌تر از واقعیت نشان می‌دهند.
او گفت: «حدود ۵۰ درصد احتمال دارد که همه‌ی ما به‌دلیل توسعه‌ی سامانه‌های هوش مصنوعی باهوش‌تر از انسان بمیریم.» او افزود اقداماتی که طی دو تا ۱۰ سال آینده انجام خواهند شد، تعیین‌کننده خواهند بود.
دیوید رابینسون از اپن‌ای‌آی در آخر هفته اعلام کرد که این شرکت را ترک می‌کند و گفت: «شرکت‌هایی که این فناوری را می‌سازند، به هیچ وجه به اندازه‌ی کافی محتاط نیستند» و با سرعت از یک عرضه‌ی محصول به عرضه‌ی محصول بعدی می‌روند.
بیل گیتس، بنیان‌گذار مایکروسافت نیز از قانون‌گذاران و نهادهای مجری قانون در امریکا خواسته است توسعه‌ی هوش مصنوعی را تنظیم و قانونمند کنند.
بیل گیتس در گفت‌وگو با شبکه ان‌بی‌سی هشدار داده است که اگر این فناوری بدون نظارت رها شود، می‌تواند باعث «مرگ یک میلیارد نفر» شود و «هیچ‌کس فکر نمی‌کند خودتنظیمی کافی باشد».
