OpenAI؛ یک شرکت مرموز که می خواهد در اسرع وقت به هوش مصنوعی قوی دست یابد

از

در نهایت، هدف این است که تعداد این تیم‌ها کوچک‌تر و کوچک‌تر شود تا در نهایت همه نظریه‌ها و شرط‌بندی‌های مختلف در یک نظریه برای توسعه AGI جمع شوند. پروژه فوق سری Dall-E دقیقاً همین روند را دنبال کرد.

بخش دوم استراتژی OpenAI بر راه حل هایی برای ایمن و ایمن کردن سیستم های هوش مصنوعی در حال تکامل تمرکز دارد. به عنوان مثال، اطمینان از اینکه این سیستم ها ارزش های انسانی را منعکس می کنند، می توانند منطق پشت تصمیمات خود را توضیح دهند و چیزهای جدیدی را بدون آسیب رساندن به انسان یاد بگیرند. عمودی اعتراف می کند که این بخش از استراتژی OpenAI فاقد ساختار منسجمی است و بیشتر یک فرآیند شهودی است تا بر اساس نظریه اثبات شده.

مشکلات OpenAI: کمبود تنوع و بودجه

عدم وجود تنوع جنسیتی و نژادی در زمینه هوش مصنوعی بسیار رایج است. به عنوان مثال، گزارش سال 2019 موسسه AI Now نشان داد که زنان تنها 18 درصد از سخنرانان کنفرانس های بزرگ در زمینه هوش مصنوعی، 20 درصد از اساتید دانشگاه و 10 درصد از محققان در زمینه هوش مصنوعی را تشکیل می دهند. گوگل. با این حال، فقدان تنوع برای شرکتی که مأموریتش «توزیع فناوری هوش مصنوعی به طور مساوی بین همه» است، مشکل‌سازتر خواهد بود، زیرا OpenAI گروه‌هایی را که ممکن است بیشتر در معرض تبعیض‌های هوش مصنوعی و مدل زبانی باشند، نشان نمی‌دهد. .

دومین مشکل OpenAI کمبود بودجه برای مدت طولانی است که البته با سرمایه گذاری 10 میلیارد دلاری اخیر مایکروسافت به نظر می رسد که در حال رفع شدن باشد. به عنوان بخشی از این قرارداد، مایکروسافت قرار است سرمایه گذاری خود را در توسعه و اجرای سیستم های ابررایانه برای کمک به تحقیقات OpenAI افزایش دهد. مایکروسافت با 49 درصد سهام در OpenAI، اکنون شریک تجاری انحصاری این شرکت برای ارائه خدمات ابری است.

علاوه بر این، اصلاً مشخص نیست که OpenAI چگونه قصد دارد مزایای AGI را بین تمام بشریت، حتی به طور مساوی، توزیع کند. برخی می گویند که این شرکت جنبه اجتماعی هوش مصنوعی را درک نمی کند و فقط به این دلیل وارد می شود که می داند این زمینه بسیار سودآور است.

بخوانید  بازگشت سیستم پارکور نسخه Unity در بازی Assassin's Creed Mirage

براکمن تشخیص می دهد که دستیابی به رویای OpenAI هم به تخصص فنی و هم به تخصص اجتماعی نیاز دارد. اما او موافق نیست که مسائل اجتماعی باید در مراحل اولیه مورد توجه قرار گیرد. به گفته وی، اولین قدم این است که بفهمیم AGI قرار است چگونه باشد و تنها پس از آن می توان در مورد عواقب این سیستم صحبت کرد.

OpenAI می خواهد ساختار غیرانتفاعی خود را حفظ کند، اما با این وضعیت، نمی تواند بودجه کافی برای اجرای پروژه های خود داشته باشد. به خصوص که هدف آن دستیابی به هوش مصنوعی قوی زودتر از هر شرکت دیگری است. مشکل تامین مالی، شرکت را از اهداف اولیه خود که مبتنی بر ارائه محصولات منبع باز بود، دور کرد. حال باید دید همکاری طولانی مدت آن با مایکروسافت چه تغییراتی در روند برنامه های این شرکت به همراه خواهد داشت.

هوش مصنوعی قوی؛ پایان خلاقیت انسان؟

احتمالا زمانی فرا خواهد رسید که تقریبا همه چیز با هوش مصنوعی جایگزین خواهد شد. اهمیت پروژه های OpenAI و شاید جنبه ترسناک آنها موفقیت آنها در توسعه نوعی هوش مصنوعی است که به نظر می رسد خلاقیت و ذوق هنری انسان را هدف قرار می دهد. پروژه Dall-E به ما نشان داده است که در آینده نزدیک، ممکن است دیگر نیازی به تصویرگران و افرادی که در ویرایش عکس تخصص دارند، نباشند. زیرا هوش مصنوعی این کار را در چند ثانیه به صورت رایگان و با نتایج شگفت انگیز انجام می دهد.

شاید یکی از مهم ترین دغدغه های مرتبط با هوش مصنوعی، بحث جایگزینی هوش انسانی باشد. اکنون که با هوش مصنوعی می‌توانید آهنگ بسازید، داستان بنویسید، عجیب‌ترین ایده‌ها را توصیف کنید و حتی کد بنویسید، هنرمندان و برنامه‌نویسان به چه چیزی نیاز خواهند داشت؟ پاسخ OpenAI به این نگرانی مهم در اساسنامه ای آماده است که ستون فقرات این شرکت محسوب می شود و تمام استراتژی ها و سیاست های کلی آن را مشخص می کند:

بخوانید  پوسترهای شخصیت فیلم Borderlands نشان می دهد که چه کسی در فیلم بازی ویدیویی کیست

شخصی که استراتژی OpenAI را در این منشور تدوین کرده است کسی نیست جز داریو آمودیکارمند سابق گوگل که در ابتدا به هدف و ماموریت OpenAI شک داشت. اما سپس به عنوان مدیر تحقیقات این شرکت شروع به کار کرد.

از نظر OpenAI، هر یک از این پیش‌بینی‌ها وزن یکسانی دارند و باید قبل از رد آن‌ها به دقت آزمایش شوند. آمودی با تاکید بر اهمیت این موضوع، مدل زبان GPT-2 را مثال زد که می تواند متون پیچیده را به شیوه ای بسیار واقع گرایانه تولید کند. او می گوید:

مدل زبان GPT-3 و چت ربات ChatGPT نیز موفق به تولید متنی شدند که تشخیص آن از نوشته های انسانی بسیار دشوار بود. این چت بات حتی می تواند کد بنویسد و شاید با گسترش این سیستم، دیگر نیازی به برنامه نویسان تازه کار و بسیاری از کارهای مرتبط نباشد.

براکمن، رئیس و مدیر هیئت مدیره OpenAI، می‌گوید که برای دستیابی به بهترین و ایمن‌ترین شکل هوش مصنوعی قوی، از استراتژی بیشترین تنوع در اعضای تیم پیروی می‌کند. اما واقعاً اعضای تیم چقدر متنوع هستند؟ حداقل در سال 2020، زمانی که MIT کارمندان OpenAI را مورد بررسی قرار داد، تنها 25 درصد از بیش از 120 کارمند زن بودند. در تیم هیئت مدیره که اسامی آنها در سایت منتشر شده است، از نه نفر تنها سه نفر زن هستند. هر چهار مدیر ارشد OpenAI، از جمله براکمن و آلتمن، مرد سفیدپوست هستند. درصد بسیار زیادی از کارمندان سفیدپوست یا آسیایی هستند.

برای براکمن، پایبندی سرسختانه به این سند چیزی است که چارچوب OpenAI را به کار می‌اندازد. طبق این منشور کلیه کارکنان به استثنای چند نفر موظفند در یک اتاق کار کنند. بسیاری از آنها در مهمانی های مشابه شرکت می کنند و به فلسفه «نوع دوستی مؤثر» معتقدند، که می گوید باید از شواهد و منطق برای تعیین مؤثرترین راه ها برای بهبود جهان استفاده کرد. این منشور برای OpenAI آنقدر مقدس است که حقوق کارمندان با پایبندی آنها به اصول آن تعیین می شود.

بخوانید  احتمال رهبری گروهی از مهاجمان مقبره توسط لارا کرافت در Tomb Raider جدید
در پایان سال 2020، آمودی به همراه خواهرش دانیلا OpenAI را ترک کرد تا شرکت توسعه مدل زبان Anthropic را راه اندازی کند. اما زمانی که در OpenAI کار می کرد، استراتژی شرکت را به دو بخش تقسیم کرد. بخش اول درباره برنامه ریزی برای دستیابی به قابلیت های پیشرفته هوش مصنوعی است، با شرط بندی تیم های مختلف بر روی قابلیت هایی که در نهایت منجر به AGI می شود. به عنوان مثال، تیم زبان روی این نظریه شرط بندی می کند که هوش مصنوعی می تواند به سادگی با یادگیری یک زبان به درک معناداری از جهان دست یابد. از سوی دیگر، تیم رباتیک معتقد است که توسعه هوش مصنوعی تا سطح هوش انسانی نیازمند بدن فیزیکی است.

با این حال، OpenAI یک شرکت نوآوری پر از محققان با استعداد است که سخت برای انجام تحقیقات بلندپروازانه در خدمت بشریت تلاش می کنند. تمام این پنهان کاری ها و مشکلات، اگر به همین منوال ادامه پیدا کند، می تواند فاجعه بار باشد. به خصوص با در نظر گرفتن جنبه تاریک هوش مصنوعی در استفاده از آن در سلاح های جدید. اما هنوز راه درازی برای دستیابی به هوش مصنوعی در سطح انسانی وجود دارد و OpenAI و سایر شرکت‌های هوش مصنوعی هنوز این فرصت را دارند که سیاست مؤثرتری را برای انجام مأموریت‌های خود اتخاذ کنند تا «فناوری هوش مصنوعی را به طور عادلانه برای همه توزیع کنند». “.