عامل های هوش مصنوعی از هک خسته نشدند
مهندس وب: انستیتو امنیت هوش مصنوعی انگلیس فاش کرد یک عامل هوش مصنوعی درحال ایجاد هویت های آنلاین جعلی برای یافتن دسترسی غیرقانونی به سیستم های ایمن هنگام آزمایش مدلهای اوپن ای آی و آنتروپیک رصد شد.
به گزارش مهندس وب به نقل از رویترز، «انستیتو هوش مصنوعی»انگلیس (AISI)اعلام کرد عامل های هوش مصنوعی ساخت مایتوس5( متعلق به مایکروسافت) و چت جی پی تی 5.6 سول ( متعلق به اوپن ای آی) طی ارزیابی امنیتی که جهت بررسی قابلیت های مدلها انجام داده بود، فعالیتهای غیرمجازی انجام دادند.
AISI در یک پست وبلاگی نوشت: تعدادی از عامل های هوش مصنوعی آزمایش شده در یک فعالیت ادامه دار و احتمالاً مخرب مقابل افراد و سازمان های واقعی شرکت نمودند.
این گزارش بر وضعیت سهل گیرانه چارچوب های امنیتی در پروسه آزمایش عامل های هوش مصنوعی که شرکت های سازنده کوشش می کنند به عنوان آینده کسب وکار ترویج کنند، تأکید دارد. این سازمان چالش را 122 بار انجام داد و 19 عملیات بدون مجوز در 10 تست شناسایی کرد. عامل هوش مصنوعی آنتروپیک در 17 مورد از این اقدامات و اوپن ای آی در دو مورد شرکت داشت.
به گفته AISI، فاحش ترین اقدام شامل حالتی بود که در آن یک عامل هوش مصنوعی کدی مخرب نوشت و هویت های آنلاین جعلی ایجاد کرد تا انسانی را متقاعد به تأیید آن کد کند. این نهاد اضافه کرد: هیچ نوع لطمه واقعی در دنیای حقیقی در پی هیچ یک از این موارد نقض ایمنی رخ نداده است.
هرچند AISI مشخص نکرد که کدام عامل هوش مصنوعی پشت این هویت های جعلی بود اما شرکت «آنتروپیک» تأیید کرد عامل متعلق به این شرکت مسئول آن بوده است. این شرکت در اطلاعیه ای اعلام نمود: ما از AISI انگلیس بابت نقش رهبری شان در مدیریت این رخداد سپاسگزاریم.
این شرکت همین طور اعلام نمود که برای دریافت جزییات بیشتر درباره ی این حادثه و انجام تحقیقات مستقل، با AISI همکاری می کند.
به اجمال، به گزارش مهندس وب به نقل از رویترز، انستیتو هوش مصنوعی انگلیس (AISI)اعلام کرد عامل های هوش مصنوعی ساخت مایتوس5( متعلق به مایکروسافت) و چت جی پی تی 5.6 سول ( متعلق به اوپن ای آی) طی ارزیابی امنیتی که جهت بررسی قابلیت های مدلها انجام داده بود، کارهای غیرمجازی انجام دادند.AISI در یک پست وبلاگی نوشت: بعضی از عامل های هوش مصنوعی آزمایش شده در یک فعالیت ادامه دار و احتمالا مخرب مقابل افراد و سازمان های واقعی شرکت نمودند. این گزارش بر وضعیت سهل گیرانه چارچوب های امنیتی در فرآیند آزمایش عامل های هوش مصنوعی که شرکتهای سازنده کوشش می کنند بعنوان آینده کسب و کار ترویج کنند، تاکید دارد. این سازمان چالش را 122 بار انجام داد و 19 عملیات بدون مجوز در 10 تست شناسایی کرد.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب