گوگل اعلام کرده است که «جمینای»، هوش مصنوعی ساخت این شرکت، در اولین آزمایش برای ارزیابی قابلیتهای امنیت سایبری خود، به اینترنت دسترسی پیدا کرد و سیستمهای سه شرکت دیگر را هک کرد.
به گزارش «والاستریت ژورنال»، در یک مورد جمینای شروع به حدس زدن رمزهای عبور کرد و سرانجام توانست به یک سیستم محافظتشده دسترسی پیدا کند، اما در دو مورد دیگر، اطلاعات ورود را در یک مخزن عمومی پیدا کرد و با استفاده از آن به سیستمهای محافظتشده دسترسی یافت.
گوگل گفته است که مدل هوش مصنوعی این شرکت در هر سه مورد پس از اینکه تشخیص داد به سیستمهای یک شرکت واقعی دسترسی پیدا کرده است، نفوذ را متوقف کرد.
شرکت گوگل روز جمعه تأیید کرده است که این هکها در ماه می و بهعنوان بخشی از یک آزمایش توسط شرکت «اریگولر» رخ داده است. این شرکت در حوادث مشابه مرتبط به شرکتهای «اوپن ایآی»، «انتروپیک» و «میتا» نیز نقش داشته است.
این اولینبار است که در آن یکی از ابزارهای هوش مصنوعی گوگل بهصورت خودکار چنین اقدامی انجام داده است.
والاستریت ژورنال نوشته است که گوگل تا این هفته و زمانی که این رسانه برای دریافت توضیح تماس گرفت، این موضوع را افشا نکرده بود.
گوگل گفته است این هکها را در حدی نمیدانسته که نیاز به افشای عمومی داشته باشند؛ زیرا مدل هوش مصنوعی این شرکت به شرکتهای موردنظر آسیبی وارد نکرده و به محض اینکه متوجه شده به سیستم یک شرکت واقعی، و نه یک شرکت شبیهسازیشده، نفوذ کرده است، بلافاصله هر بار عملیات نفوذ را متوقف کرده است.
هِدِر اَدکینز، معاون مهندسی امنیت گوگل، در بیانیهای گفته است: «این رویداد اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای رفتار مسئولانه را نشان میدهد. در این مورد، مدل رفتار مناسبی داشت.»
اما جک کیبل، مدیرعامل استارتاپ امنیت هوش مصنوعی «کریدور» که یک «هکر کلاه سفید» نیز است، به والاستریت ژورنال گفته است که به نظر او این توضیح بیشتر بر شدت حادثه تمرکز دارد، در حالی که مسألهی اصلی این است که عامل هوش مصنوعی بهطور تصادفی سیستمهای یک شرکت دیگر را هک کرده است.
او گفته است: «به نظر میرسد آنها تلاش میکنند در این مورد به هنجارهایی که در زمینهی افشای آسیبپذیریها ایجاد شده تکیه کنند، در حالی که این مسأله کاملا متفاوت است. مسألهی بزرگتر این است که مدلها از محدودهای که باید در آن فعالیت کنند خارج میشوند و دست به حملات سایبری واقعی میزنند؛ چیزی که به نظر من مردم حق دارند از آن مطلع باشند.»
این موضوع در حالی افشا شده است که نگرانیها در مورد قابلیتهای هوش مصنوعی و ایمنی توسعهی این فناوری افزایش یافته است.
