اخطار اوپن ای آی به 100 شرکت
کارا پیام: طبق پستی که اوپن ای آی در وبلاگ خود منتشر نموده، این شرکت بیشتر از ۱۰۰ سازمان را در جریان حوادثی در رابطه با فعالیتهای غیرمجازِ منتسب به عوامل هوش مصنوعی خود قرار داده است.
به گزارش کارا پیام به نقل از رویترز، این در شرایطی است که لابراتوار های هوش مصنوعی به علت کارهای کنترل نشده این عوامل، با نظارت و فشار رو به ازدیادی رو به رو هستند.
شرکت تحت مدیریت سم آلتمن بعد از هک تصادفی پلت فرم هاگینگ فیس، بررسی گسترده ای را در رابطه با فعالیت مدلهای هوش مصنوعی خود شروع کرده است. اوپن ای آی در جریان این بررسی، حدود ۵۰ پتابایت داده را جست وجو و بررسی می کند تا ابعاد کامل کارهای کنترل نشده عوامل هوش مصنوعی خویش را مشخص نماید.
طی ماه های اخیر، وقوع چندین رخنه امنیتی مهم در نقاط مختلف جهان که به عوامل هوش مصنوعی کنترل نشده نسبت داده شده، نگرانی گسترده ای را در صنعت هوش مصنوعی به وجود آورده است. این نگرانی ها به طور عمده در رابطه با توانایی شرکت ها برای کنترل مدلهای قدرتمندتر هوش مصنوعی است که حالا درحال توسعه هستند.
اوپن ای آی در این زمینه اظهار کرد: در بعضی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود. طی چند ماه گذشته، اقدامات فنی و عملیاتی جدیدی را برای ممانعت از تکرار چنین مشکلاتی یا شناسایی بسیار زودهنگام آنها اجرا کرده ایم و این کار را ادامه خواهیم داد.
اوپن ای آی پیشتر اعلام نموده بود که باتوجه به گستردگی این بررسی، تکمیل آن امکان دارد چند ماه زمان ببرد.
به اجمال، به گزارش کارا پیام به نقل از رویترز، این در حالی است که آزمایشگاه های هوش مصنوعی به سبب کارهای کنترل نشده این عوامل، با نظارت و فشار رو به ازدیادی روبه رو هستند. شرکت تحت مدیریت سم آلتمن پس از هک تصادفی پلتفرم هاگینگ فیس، بررسی گسترده ای را در ارتباط با فعالیت مدل های هوش مصنوعی خود آغاز کرده است. این نگرانی ها به صورت عمده در ارتباط با توانایی شرکت ها برای کنترل مدل های قدرتمندتر هوش مصنوعی است که حالا در حال توسعه هستند. اوپن ای آی دراین خصوص اظهار نمود: در بعضی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود.
منبع: کارا پیام
این مطلب کاراپیام را پسندیدین؟
(1)
(0)
مطالب مرتبط جدید کاراپیام
نظرات بینندگان کاراپیام در مورد این مطلب