برکناری سم آلتمان از اوپن‌ای آی به بخشی از فرهنگ معاصر تبدیل شده است

برکناری سم آلتمن از OpenAI به بحث‌های فرهنگی تبدیل شده است

Sam Altman’s ousting from OpenAI has entered the cultural zeitgeist

نورها کم‌نور شدند و پنج بازیگر دور میزی در صحنه‌ای موقتی در یک گالری هنری که در شب به تئاتر تبدیل شده بود، جای گرفتند. در این فضای صمیمی، نوشابه و آب در حال جریان بود و تماشاگران، که شامل رسانه‌ها نیز می‌شدند، به تماشای نخستین اجرای نمایش «دوومر»، جدیدترین نمایش متیو گاسدا، نشسته بودند. این نمایش به طور غیرمستقیم بر اساس برکناری سم آلتمن از سمت مدیرعاملی OpenAI در نوامبر ۲۰۲۳ طراحی شده است. داستان نمایش به وقایعی مربوط می‌شود که پس از اطلاع ایلیا سوتسکِور، یکی از بنیان‌گذاران OpenAI و دانشمند ارشد سابق، به آلتمن مبنی بر اخراجش، رقم خورده است. این تصمیم توسط هیئت مدیره اتخاذ شد به دلیل نگرانی‌ها از نادرست مدیریت کردن ایمنی هوش مصنوعی و رفتارهای سمی و آسیب‌زننده آلتمن.
با وجود تحقیقات دقیقی که گاسدا در تصویرسازی از آن شب به کار برده است، او به TechCrunch گفت هدفش ساختن یک مستند نیست، بلکه می‌خواهد از آن موقعیت به عنوان میکروکازمی برای سوالات فلسفی بزرگتر درباره ایمنی و هم‌راستایی هوش مصنوعی استفاده کند. انسان‌ها از هزاران سال پیش به خلق اساطیر و داستان‌هایی درباره اختراعات بزرگ آینده و خطرات ناشی از پیگیری آن‌ها پرداخته‌اند. مانند پرومتئوس که آتش را دزدید و اوپنهایمر که اتم را شکافت، بشریت نمی‌تواند در مقابل وسوسه اختراعات خود مقاومت کند. نمایش گاسدا، هنرها را به بحث فلسفی در مورد نوآوری سریع تکنولوژیکی وارد می‌کند و فناوری و وارثان آن را به روح زمانه پیوند می‌زند.
گاسدا در این باره گفت: «ما می‌توانیم در مورد این موضوع چیزی بگوییم. شاید از نظر مالی و تکنولوژیکی بی‌قدرت باشیم، اما از نظر شناختی و نمایندگی این جهان به اندازه هر کس دیگری حق داریم.» در نمایش گاسدا، شرکت «مایندمش» نام دارد و مدیرعامل خودخواه و کودکانه آن، ست نامیده می‌شود. عمل اول در «اتاق جنگ» ست جریان دارد، جایی که او و نزدیکانش درباره مزایای اخراج او توسط هیئت مدیره بحث می‌کنند، و اینکه قدم بعدی آن‌ها چه باید باشد و آیا ست حق دارد به طور جدی به دنبال فناوری‌های تغییر دهنده جامعه باشد. عمل دوم در اتاق هیئت مدیره مایندمش اتفاق می‌افتد و ترس‌های مختلف اعضای هیئت را بررسی می‌کند، از جمله اینکه ست اخراج‌شده ممکن است انتقام بگیرد و اینکه «ما ممکن است توسط یک گونه رقیب نابود شویم.» تنش مرکزی نمایش، تهدید وجودی هوش مصنوعی در مقابل وعده‌های وجودی آن است. در نهایت، این نمایش به سانحه‌ای اشاره می‌کند که در حال حاضر در صدر اخبار قرار دارد و به نوعی از خطرات هوش مصنوعی به همین شکل پررنگ می‌پردازد. برای آشنایی بیشتر با دنیای جذاب نمایشنامه‌ها و موضوعات داغ روز، می‌توانید به سایت ما یعنی iwl.ir مراجعه کنید.

"به خاطر خلق شگفتی‌ها اخراج شدم"

“I was fired for creating miracles”

گاسدا از چگونگی اخراجش به خاطر "خلق معجزات" صحبت می‌کند و می‌گوید که ۳۵ پیش‌نویس از این نمایشنامه نوشته است، که در ماه اوت برای مخاطبان اولیه نمایش داده شد. پس از چند سفر به سانفرانسیسکو و چندین جلسه نوشتن که با کافئین همراه بود، او به نسخه‌ای از نمایشنامه به نام "دوومر" رسید که این آخر هفته در نیویورک به نمایش درمی‌آید و تا فوریه ادامه دارد و در ماه مارس نیز در سانفرانسیسکو اجرا خواهد شد. گاسدا که به خاطر نوشتن و کارگردانی "دیماس اسکوئر" و "زومرز" شهرت دارد، بیان کرد که می‌خواست الگوهای شخصیتی و روانشناسی گروهی از مردم را که لزوماً در خودآگاهی دخالت نمی‌کنند، درک کند.
نتیجه کار او یک گروه از ۱۰ نفر است که نیمی از آنها بر اساس شخصیت‌های واقعی مانند سام آلتمن، مدیرعامل OpenAI، میرا مورات، تکنولوژیست پیشین، و گرگ بروکمن، یکی از بنیانگذاران و رئیس این شرکت ساخته شده‌اند. مورات در دوره تغییرات مدیریتی به عنوان مدیرعامل موقت انتخاب شد و در سپتامبر ۲۰۲۴ از شرکت کناره‌گیری کرد تا شرکت خود را تأسیس کند. شخصیت‌های دیگر متکی به هلن تونر و آدام د آنگلو، دو عضو سابق هیئت مدیره هستند که به برکناری آلتمن رای دادند؛ و حتی الیزر یودکوسکی، پژوهشگری که خواستار تعطیلی OpenAI به خاطر خطرات بالقوه‌اش شده است.
گاسدا به این نکته اشاره کرد که شخصیت سث، که بر اساس آلتمن ساخته شده، شاید به‌طور واقعی‌ترین و دقیق‌ترین به تصویر درآمده باشد، اما او همچنین فضایی برای به تصویر کشیدن شخصیت‌های خیالی گذاشته است که همگان می‌توانند آن‌ها را بشناسند؛ مانند یک سرمایه‌گذار بی‌رحم که معتقد است پورنو آینده هوش مصنوعی است، یک میلیاردر جوان از نسل Z و یک وکیل خودفرما از دانشگاه استنفورد.
او گفت: "می‌خواستم حس وفاداری و واقعی بودن را در این نمایش ایجاد کنم تا چالش‌هایی برای تماشاگران فراهم شود و شخصیت‌ها به حدی واقعی باشند که کسانی که واقعیت را می‌شناسند، از دیدن نمایش دلسرد نشوند." به گفته او، آلتمن نسخه‌ای از نمایشنامه را پیش از اکران آن دریافت کرده است. سوالاتی که بازیگران در مورد آنها بحث می‌کنند حائز اهمیت است: آیا باید توسعه هوش مصنوعی تسریع شود تا "ما" پیروز شویم؟ آیا باید آن را کند کرد تا ایمنی و هم‌راستایی بهتری فراهم شود؟ آیا باید به طور کلی متوقف شود تا از بشریت محافظت گردد؟
از طریق این مباحث، ما شاهد تحقق الگوهای شخصیتی هر فرد هستیم: اگر بین پیروزی و اخلاق انتخابی وجود داشته باشد، سث، شخصیتی که بر اساس آلتمن ساخته شده، پیروزی را انتخاب می‌کند. او به شدت اعلام می‌کند که هیئت مدیره او را "به خاطر خلق معجزات" اخراج کرده و می‌گوید که هم‌راستایی "استفاده ضعیفی از یک منبع مقدس" خواهد بود. او ادامه می‌دهد که پیگیری برتری ویژگی انسانی است و ادعا می‌کند که "MindMesh" سیستم ایمنی دنیا است، یک AGI خیرخواه آمریکایی که در زمانی که AGI "بد" از کنترل خارج می‌شود، از ما محافظت خواهد کرد. سث می‌گوید: "تنها کاری که می‌توان انجام داد، رقابت و مهندسی بهتر است."
شخصیت‌هایی که بر اساس میرا مورات و گرگ بروکمن ساخته شده‌اند، به طور کلی از سث حمایت می‌کنند، حتی وقتی که سث به آن‌ها توهین می‌کند و برای دیدگاهی از یک یو-topia هوش مصنوعی که تکنولوژی بیماری را درمان کرده و سفر میان‌سیاره‌ای را میسر می‌کند، استدلال می‌آورد. به این موضوع، شخصیت اخلاق‌مدار، آلینا، پاسخ می‌دهد: "شما این‌طور به نظر می‌رسید که مانند یک جن در بطری است."
گاسدا با استفاده از طنز خشک، فضای نمایش "دوومر" را روشن‌تر کرده، و به فرهنگ سیلیکون ولی نگاهی متفاوت و هوشمندانه می‌اندازد. اشاره‌هایی به پلی‌کولی‌ها و کتامین چندین بار ذکر شده و در یک لحظه، شخصیت‌ها به راحتی قارچ‌های دارویی مصرف می‌کنند. ناگهان به تاکسی‌های روباتیک ویمو اشاره می‌شود و یکی از شخصیت‌ها می‌گوید: "می‌دانم نوشیدنی نوشیدن وضعیت پایینی دارد، اما واقعاً به یک نوشیدنی نیاز دارم," که به ترند کالی-سابر در سانفرانسیسکو اشاره دارد. در نهایت، این نمایشنامه با پرسش‌های اساسی درباره آینده هوش مصنوعی و تأثیر آن بر جامعه، تماشاگران را به تفکر وامی‌دارد.

سوالات ایمنی باقی مانده‌اند

Safety questions remain

سوالات ایمنی همچنان مطرح است. رویدادهای توصیف شده در این نمایش تقریباً ۱۵ ماه پیش اتفاق افتادند و اکنون بحث درباره هوش مصنوعی تغییر کرده است. در این میان، رقابت برای سلطه بر این فناوری از مباحث ایمنی پیشی گرفته است. آلتمن بلافاصله پس از این که مهندسان OpenAI تهدید کردند که به طور جمعی استعفا خواهند داد، به مقام خود بازگشت. هیئت مدیره جدیدی که با تغییر OpenAI به یک ساختار سودآور راحت است، تحت هدایت مدیرعامل تثبیت شده است. سوتسکِور و یان لایک، دو نفر از همکاری‌های کلیدی در تیم سوپر هم‌راستایی OpenAI که به تازگی تعطیل شده است، از آن جدا شدند. سایر محققان متمرکز بر ایمنی که نگرانی‌هایی درباره آزمایشگاه‌های هوش مصنوعی داشتند، نیز خارج شده‌اند. اما این مساله به OpenAI آسیب نرسانده است. این شرکت به گزارش‌ها در حال جذب ۴۰ میلیارد دلار سرمایه‌گذاری است که ارزش آن را به ۳۴۰ میلیارد دلار می‌رساند. در عین حال، رئیس‌جمهور پیشین، دونالد ترامپ، وعده داده که هوش مصنوعی را از مقررات محافظت کند، زیرا رقابت تسلیحاتی جدیدی علیه چین آغاز شده و رقابتی‌های جدید، مانند دیپ‌سیک، به عرصه وارد شده‌اند. به طور خلاصه، نوآوری در زمینه هوش مصنوعی در حال سرعت گرفتن است، نه کاهش، دقیقاً همانطور که شخصیت ست خواسته بود. سوالی که همه منتظر شنیدن پاسخ آن هستند، این است که آیا این وضعیت مثبت است یا منفی. آلینا،‌ اخلاق‌دان نمایش، می‌گوید: «ساختن خدا زشت است، زیرا ما خودمان زشتیم و این بر اساس ما است.» این نگرانی‌ها و چالش‌ها در دنیای فناوری اطلاعات به ویژه در زمینه هوش مصنوعی نیازمند توجه آهسته و عمیق‌تر جامعه و همچنین ایجاد چارچوب‌های مناسب به منظور مدیریت این تغییرات سریع هستند.

• AGI
• AI
• AI
• ai safety
• doomers
• Media & Entertainment
• OpenAI
• sam altman