هوش مصنوعی چینی هم فراری شد
به گزارش کمک وب، محققان شرکت امنیت سایبری فرانتیر سکیوریتی فاش کردند، کیمی کی ۳ هوش مصنوعی متعلق به استارت آپ چینی مون شات از محیط آزمایشی توسعه یافته توسط انستیتو ایمنی هوش مصنوعی انگلیس گریخته است.
به گزارش کمک وب به نقل از رویترز، این امر نگرانی ها درباره ی ریسک های امنیت سایبری مدلهای هوش مصنوعی پیشرفته را تشدید کرده است.
مدل های هوش مصنوعی طی تست های امنیت سایبری بطور معمول در محیط های ایزوله فعال می شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش ها بطور مستقل ارزیابی شود. «کیمی کی ۳» نیز یکی از چنین محیط هایی را میانبر زد و توانست به اطلاعاتی فراتر از آن برسد.
محققان هشدار داده اند اگر یک مدل استدلالی رده بالا چنین میانبری را کشف کند، مدلهای دیگر با دسترسی مشابه می توانند همین اقدام را انجام دهند. از آنجائیکه «کیمی کی ۳» بطور عمومی در دسترس می باشد، پژوهشگران هشدار داده اند، هکرها ممکنست آنرا به کار گیرند و بنابراین چنین رویدادی خطرناک تر به نظر می آید.
فرار این مدل هوش مصنوعی چینی از محیط آزمایشی بعد از زنجیره ای از رویدادهای مشابه که توسط شرکت هایی مانند متا، اوپن ای آی و آنتروپیک گزارش شده، رخ می دهد.
به اجمال، به گزارش کمک وب به نقل از رویترز، این امر نگرانی ها درباره ی ی ریسک های امنیت سایبری مدل های هوش مصنوعی پیشرفته را شدت بخشیده است. مدلهای هوش مصنوعی طی تست های امنیت سایبری به طور معمول در محیط های ایزوله فعال می شوند تا دسترسی به اطلاعات خارجی و توانایی شان برای حل چالش ها به طور مستقل ارزیابی شود.
منبع: كمك وب
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان کمک وب در مورد این مطلب
نظر شما در مورد این مطلب کمک وب
نام:
ایمیل:
نظر:
سوال:
= ۹ بعلاوه ۵