کنترل

آیا هیچ وقت میتوانم نتوانم خودم را کنترل کنم؟ سطحی از من وجود دارد که الزاما در اختیار من نیست. نه اینکه در اختیار شخص یا چیز دیگری باشد ، اما الزاما تحت دستورات خودآگاه قرار ندارد. مثلا بعید میدانم کسی بتواند با نگهداشتن گلوی خود ، خودش را خفه کند. مکانیزم هایی درکار است که مانع می شود. و این یک سطح کنترلی عمیق و جدی به شمار می رود. البته این دربرابر همه ی انواع خودکشی ها نمیتواند مانع ایجاد کند. مثلا شخصی که از بلندی خود را پرت میکند ، پاهایش آنچنان مانعی به شمار نمی روند. ولی مسئله برای هوش مصنوعی چگونه است؟ اگر سطحی از کنترل تعریف شود که بتواند و امکان از دست رفتنش وجود داشته باشد ، ما با چه سناریوهایی روبرو خواهیم بود؟