سلاح های خودمختار؛ کابوس هوش مصنوعی در شرف تحقق است

در جای دیگر این نامه، سلاح های خود مختار با سلاح های شیمیایی و بیولوژیکی برابری می کنند:

نویسندگان نامه هیچ مشکلی با موشک‌های کروز و پهپادهای کنترل از راه دور نداشتند و می‌گفتند «انسان‌ها همه تصمیم‌گیری‌ها را برای هدف‌گیری می‌گیرند». اما توسعه سلاح های کاملاً خودمختار که قادر به مبارزه و کشتار بدون دخالت انسان هستند باید در همان ابتدا متوقف شود.

در این نامه که بیش از 34000 نفر آن را امضا کردند، تمرکز روی ربات ها و تجهیزاتی بود که در آینده می توانند به چنان سطحی از هوش برسند که بخواهند با تصمیم خود و بدون دخالت انسان، خود مختار شوند و به سمت اهداف شلیک کنند. ; چیزی شبیه به ربات چهار پا که سیبل را با تفنگ شلیک کرد و احتمالاً همان «سیستم خودکار» که اشمیت در مصاحبه اخیر خود با Wired در مورد آن صحبت کرد.

اشمیت شکایت کرد که پنتاگون قوانین سختگیرانه ای برای استفاده از فناوری مدرن دارد و انتخاب و خرید نرم افزار توسط وزارت دفاع ایالات متحده ممکن است سال ها طول بکشد. او گفت که چالش اصلی برای ایالات متحده این است که تا چه حد می تواند از فناوری های تجاری برای اهداف نظامی سریعتر از رقبای خود استفاده کند.

سال گذشته پنتاگون کریگ مارتلمحقق ارشد هوش مصنوعی و یادگیری ماشین دراپ باکس، لیفت و لینکدین را به عنوان سرپرست هوش مصنوعی این وزارتخانه منصوب کرد. مارتل دقیقاً طرز فکر اشمیت را داشت. پس از انتخاب شغل جدید، او به بلومبرگ گفت که می‌خواهد پنتاگون را از “سکون بوروکراتیک” بیرون بکشد و معتقد بود که ارتش آمریکا بسیار کند به سمت هوش مصنوعی پیش می‌رود و این باید تغییر کند.

در سال 2019، اشمیت رئیس کمیسیون امنیت ملی ایالات متحده در زمینه هوش مصنوعی (NSCAI) شد که وظیفه بررسی تأثیر هوش مصنوعی بر امنیت و رقابت ایالات متحده را بر عهده داشت. گزارش نهایی این کمیسیون که در سال 2021 منتشر شد، بر رقابت هوش مصنوعی بین ایالات متحده و چین متمرکز بود و هشدار داد که اگر ایالات متحده و جامعه جهانی به عقل باز نگردند، برخی کشورها می توانند از این فناوری برای گسترش ارزش های استبدادی استفاده کنند. . این گزارش همچنین از دولت ایالات متحده خواسته است تا با بخش خصوصی همکاری بیشتری داشته باشد و بودجه، داده و قدرت محاسباتی برای پروژه های هوش مصنوعی بخش دولتی و خصوصی فراهم کند.

اشمیت پس از گره زدن توسعه یک سیستم تسلیحاتی بهتر به حوزه فناوری، تصویر وحشتناکی از اینترنت اشیا ترسیم کرد که البته از نظر او بسیار هیجان انگیز است.

اما ایستاری تنها یک قطعه کوچک از یک پروژه بسیار بزرگتر است که در آن اشمیت تلاش می کند ارتش ایالات متحده را وارد فناوری و طرز فکر دره سیلیکون کند.

اما بعد از تمام این سخنان، چیزی که بیش از هر چیز مرا نگران می کند، رویکرد بی پروا اشمیت به مقوله ای است که چند سال پیش گروه بزرگی از دانشمندان و شخصیت های مشهور در حوزه علم هوش مصنوعی هشداری جدی دادند: سلاح های جنگی خودمختار.

به گفته آنها، سلاح های خودمختار سومین انقلاب تسلیحاتی پس از باروت و سلاح های اتمی خواهند بود و خطرات آنها می تواند حتی از سلاح های اتمی نیز بیشتر باشد. زیرا برخلاف سلاح‌های هسته‌ای، سلاح‌های مبتنی بر هوش مصنوعی به مواد خام گران‌قیمت یا به سختی نیاز ندارند، بنابراین تولید انبوه آن‌ها برای همه قدرت‌های بزرگ نظامی ارزان‌تر و آسان‌تر است.