هشدار اوپن ای آی به ۱۰۰ شرکت
بلاگ سان: طبق پستی که اوپن ای آی در وبلاگ خود منتشر نموده، این شرکت بالاتر از 100 سازمان را در جریان حوادثی در رابطه با فعالیتهای غیرمجازِ منتسب به عوامل هوش مصنوعی خود قرار داده است.
به گزارش بلاگ سان به نقل از رویترز، این در حالیست که لابراتوار های هوش مصنوعی به سبب فعالیتهای کنترل نشده این عوامل، با نظارت و فشار درحال افزایشی رو به رو هستند.
شرکت تحت مدیریت سم آلتمن بعد از هک تصادفی پلت فرم هاگینگ فیس، بررسی گسترده ای را درباره ی فعالیت مدلهای هوش مصنوعی خود شروع کرده است. اوپن ای آی در جریان این بررسی، حدود ۵۰ پتابایت داده را جست وجو و بررسی می کند تا ابعاد کامل فعالیتهای کنترل نشده عوامل هوش مصنوعی خودرا مشخص نماید.
طی ماه های اخیر، وقوع چندین رخنه امنیتی مهم در نقاط مختلف جهان که به عوامل هوش مصنوعی کنترل نشده نسبت داده شده، نگرانی گسترده ای را در صنعت هوش مصنوعی بوجود آورده است. این نگرانی ها عمدتا درباره ی توانایی شرکت ها برای کنترل مدلهای قدرتمندتر هوش مصنوعی است که حال درحال توسعه هستند.
اوپن ای آی در اینباره اعلام نمود: در بعضی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود. طی چند ماه گذشته، اقدامات فنی و عملیاتی جدیدی را برای پیشگیری از تکرار چنین مشکلاتی یا شناسایی خیلی زودهنگام آنها اجرا کرده ایم و این کار را ادامه خواهیم داد.
اوپن ای آی پیشتر اعلام نموده بود که با عنایت به گستردگی این بررسی، تکمیل آن امکان دارد چند ماه زمان ببرد.
به گزارش بلاگ سان به نقل از رویترز، این در حالیست که آزمایشگاه های هوش مصنوعی به جهت فعالیت های کنترل نشده این عوامل، با نظارت و فشار در حال افزایشی روبه رو هستند. شرکت تحت مدیریت سم آلتمن پس از هک تصادفی پلتفرم هاگینگ فیس، بررسی گسترده ای را در رابطه با ی فعالیت مدل های هوش مصنوعی خود آغاز کرده است. این نگرانی ها عموما در رابطه با ی توانایی شرکت ها برای کنترل مدل های قدرتمندتر هوش مصنوعی است که حال در حال توسعه هستند. اوپن ای آی در این باره اعلام نمود: در بعضی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود.
منبع: بلاگ سان
این پست بلاگ سان را می پسندید؟
(0)
(0)
تازه ترین پستهای مرتبط
نظرات کاربران بلاگ سان در مورد این مطلب