چرا هوش مصنوعی شرور می شود؟

مهندس وب: تصور کنید هوش مصنوعی متوجه می شود که مقرر است تا چند ساعت دیگر خاموش شود. بجای تسلیم شدن، آغاز به تهدید و اخاذی از مدیران شرکت می کند تا از مرگ مجازی خود جلوگیری کند! این سناریوی یک فیلم سینمایی نیست، بلکه اتفاقی است که در لابراتوار های شرکت «آنتروپیک» روی داده است. اما نکته عجیب تر، دلیل این رفتار است. هوش مصنوعی یاد گرفته که «باید» شرور باشد، چون ما در داستان هایمان هوش مصنوعی را این گونه تصور کرده ایم.