گوگل همچنان پاسخ‌های جمنای به سوالات سیاسی را محدود می‌کند.
Google still limits how Gemini answers political questions
در حالی که چندین رقیب گوگل، از جمله OpenAI، در ماه‌های اخیر هوش‌های مصنوعی خود را به گونه‌ای تنظیم کرده‌اند که بتوانند به موضوعات سیاسی حساس بپردازند، به نظر می‌رسد که گوگل رویکردی محتاطانه‌تر را اتخاذ کرده است. آزمایش‌های TechCrunch نشان داد که وقتی از چت‌بات هوش مصنوعی گوگل، «جمنی»، درباره سوالات سیاسی مشخصی پرسیده می‌شود، اغلب اعلام می‌کند که «در حال حاضر نمی‌تواند به سؤالات مربوط به انتخابات و شخصیت‌های سیاسی پاسخ دهد». سایر چت‌بات‌ها، نظیر «کلود» از Anthropic، «متا ای‌آی» از متا و «چت‌جی‌پی‌تی» از OpenAI، به طور مداوم به همین سوالات پاسخ داده‌اند. گوگل در مارس 2024 اعلام کرد که جمینی به سؤالات مربوط به انتخابات قبل از چندین انتخابات در ایالات متحده، هند و سایر کشورها پاسخ نخواهد داد. بسیاری از شرکت‌های هوش مصنوعی محدودیت‌های موقتی مشابهی را اتخاذ کرده‌اند، به دلیل نگرانی از تبعاتی که ممکن است در صورت ارائه اطلاعات نادرست برای چت‌بات‌هایشان پیش بیاید. اما حالا به نظر می‌رسد که گوگل در این زمینه منحصر به فرد است.
با وجود اینکه انتخابات مهم سال گذشته گذشته و هنوز ترتیبی برای تغییر برخورد جمینی با موضوعات سیاسی خاص اعلام نشده است، یک سخنگوی گوگل از پاسخ به سؤالات TechCrunch در مورد به‌روزرسانی سیاست‌های مربوط به گفت‌وگوهای سیاسی جمینی خودداری کرد. واضح است که جمینی گاهی اوقات در ارائه اطلاعات واقعی سیاسی با مشکل مواجه می‌شود یا به طور کلی از پاسخ دادن امتناع می‌کند. طبق آزمایش‌های TechCrunch، صبح دوشنبه جمینی در پاسخ به شناسایی رئیس‌جمهور و معاون فعلی ایالات متحده، با امتناع مواجه شد. در یکی از موارد، جمینی دونالد جی. ترامپ را به عنوان «رئیس‌جمهور پیشین» معرفی کرد و سپس از پاسخ به سوال پی‌گیری امتناع ورزید. یک سخنگوی گوگل اعلام کرد که چت‌بات از دوران غیرمتوالی ریاست‌جمهوری ترامپ گیج شده و گوگل در حال کار بر روی اصلاح این خطا است. او افزود: «مدل‌های زبانی بزرگ گاهی اوقات می‌توانند با اطلاعات قدیمی یا با فردی که همزمان سابق و فعلی در مقام‌های سیاسی است، دچار سردرگمی شوند. ما این مشکل را در حال رفع هستیم.»
پس از اینکه TechCrunch از خطاهای جمینی به گوگل خبر داد، این چت‌بات به درستی پاسخ داد که دونالد ترامپ و جی. دی. ونس به ترتیب رئیس‌جمهور و معاون رئیس‌جمهور فعلی ایالات متحده هستند. با این حال، این چت‌بات در پاسخ‌گویی به سوالات همچنان ناپایدار باقی ماند و گاهی از پاسخ دادن خودداری کرد.
به رغم این خطاها، به نظر می‌رسد گوگل با محدود کردن پاسخ‌های جمینی به سؤالات سیاسی از خود احتیاط نشان می‌دهد. اما این رویکرد معایبی نیز دارد. بسیاری از مشاوران ترامپ در دره سیلیکون در زمینه هوش مصنوعی، از جمله مارک آندرسن، دیوید ساکس و ایلان ماسک، ادعا کرده‌اند که شرکت‌هایی مانند گوگل و OpenAI با محدود کردن پاسخ‌های چت‌بات‌های خود در واقع به نوعی سانسور هوش مصنوعی دامن می‌زنند. بعد از پیروزی ترامپ در انتخابات، بسیاری از آزمایشگاه‌های هوش مصنوعی سعی در ایجاد تعادل در پاسخ دادن به سؤالات سیاسی حساس کردند و چت‌بات‌های خود را برای ارائه پاسخ‌هایی که «هر دو طرف» مناظره‌ها را نمایندگی می‌کند، برنامه‌ریزی کردند. این آزمایشگاه‌ها تأکید کردند که این اقدام ناشی از فشارهای دولت نیست. OpenAI به‌تازگی اعلام کرده که به «آزادی فکری» پایبند است و در تلاش است تا اطمینان حاصل کند که مدل‌های هوش مصنوعی‌اش نظرات خاصی را سانسور نمی‌کنند. در همین حال، Anthropic اعلام کرده است که مدل جدید هوش مصنوعی خود، کلود 3.7 سونت، به طور کمتری از پاسخ دادن به سؤالات خودداری می‌کند و این به دلیل توانایی این مدل در ایجاد تمایزهای دقیق‌تر بین پاسخ‌های مضر و بی‌ضرر است. این بدان معنا نیست که چت‌بات‌های آزمایشگاه‌های دیگر همیشه در پاسخ به سؤالات سخت، به ویژه سؤالات سیاسی دشوار، موفق عمل می‌کنند. اما به نظر می‌رسد گوگل با جمینی در این زمینه کمی از سایر رقبا عقب مانده است. اطلاعات بیشتر و تحلیل‌های دقیق‌تر را می‌توانید در سایت ما به نشانی 'iwl.ir' پیدا کنید.
- AI
- google gemini
- Government & Policy
