خوب، در الگوی لینکدین چه خبر است؟

خوب، در الگوی لینکدین چه خبر است؟

OK, what’s going on with LinkedIn’s algo?

یک روز در ماه نوامبر، یک استراتژیست محصول که ما به آن میشل می گوییم (نام واقعی او نیست)، وارد حساب کاربری لینکدین او شد و جنسیت خود را به مرد تغییر داد. او همچنین نام خود را به مایکل تغییر داد، او به TechCrunch گفت. او در آزمایشی به نام WearthePants شرکت می‌کرد که در آن زنان این فرضیه را آزمایش کردند که الگوریتم جدید لینکدین علیه زنان تعصب دارد. برای ماه‌ها، برخی از کاربران سنگین لینکدین از مشاهده افت تعامل و تأثیرگذاری در شبکه اجتماعی حرفه‌محور شکایت داشتند. این امر پس از آن صورت گرفت که تیم جورکا، معاون مهندسی شرکت، در ماه اوت گفت که این پلتفرم «اخیراً» LLM ها را برای کمک به ارائه محتوای مفید برای کاربران پیاده سازی کرده است. میشل (که هویت او برای TechCrunch شناخته شده است) به این تغییرات مشکوک بود زیرا او بیش از 10000 دنبال کننده دارد و برای همسرش که تنها حدود 2000 نفر دارد، پست های ارواح می نویسد. او گفت، با این حال، او و همسرش تمایل دارند تعداد یکسانی از برداشت های پست را دریافت کنند، علیرغم اینکه دنبال کنندگان بیشتری دارد. او گفت: «تنها متغیر مهم جنسیت بود. مریلین جوینر، بنیانگذار، نیز جنسیت پروفایل خود را تغییر داد. او دو سال است که به طور مداوم در لینکدین پست می گذارد و در چند ماه گذشته متوجه شده است که نمایش پست هایش کاهش یافته است. او به TechCrunch گفت: "من جنسیت خود را در پروفایلم از زن به مرد تغییر دادم و برداشت هایم در عرض یک روز 238٪ افزایش یافت." مگان کورنیش نتایج مشابهی را گزارش کرد، مانند رزی تیلور، جسیکا دویل مککس، ابی نایدام، فلیسیتی منزیس، لوسی فرگوسن و غیره. لینکدین گفت که «الگوریتم و سیستم‌های هوش مصنوعی آن از اطلاعات جمعیت‌شناختی مانند سن، نژاد یا جنسیت به‌عنوان سیگنالی برای تعیین نمایان بودن محتوا، نمایه یا پست‌ها در فید استفاده نمی‌کنند» و «یک عکس فوری از به‌روزرسانی‌های فید شما که کاملاً نماینده یا در دسترس نیستند، به‌طور خودکار رفتار را نادیده نمی‌گیرند». کارشناسان الگوریتم اجتماعی موافقند که تبعیض جنسی صریح ممکن است دلیلی نبوده باشد، اگرچه سوگیری ضمنی ممکن است در کار باشد. براندیس مارشال، مشاور اخلاق داده، به TechCrunch گفت: پلت‌فرم‌ها «سمفونی پیچیده‌ای از الگوریتم‌ها هستند که اهرم‌های ریاضی و اجتماعی خاصی را به‌طور هم‌زمان و پیوسته می‌کشند». او گفت: «تغییر عکس نمایه و نام یک فرد تنها یکی از این اهرم‌ها است. مارشال گفت: «آنچه که ما از آن نمی دانیم، همه اهرم های دیگری است که باعث می شود این الگوریتم محتوای یک فرد را بر دیگری اولویت دهد. این مشکل پیچیده تر از آن چیزی است که مردم تصور می کنند.

Bro-coded

Bro-coded

آزمایش The WearthePants با کد Broed با دو کارآفرین - سیندی گالوپ و جین ایوانز - آغاز شد. آن‌ها از دو مرد خواستند محتوایی مشابه آن‌ها بسازند و پست کنند، و کنجکاو شدند که بدانند آیا جنسیت دلیل این است که بسیاری از زنان احساس نامزدی می‌کنند یا خیر. گالوپ و ایوانز هر دو فالوورهای قابل توجهی دارند - در مجموع بیش از 150000 نفر در مقایسه با دو مردی که در آن زمان حدود 9400 نفر داشتند. گالوپ گزارش داد که پست او تنها به 801 نفر رسیده است، در حالی که مردی که دقیقاً همان محتوا را پست کرده است به 10408 نفر رسیده است که بیش از 100٪ دنبال کنندگان او است. سپس زنان دیگر شرکت کردند. برخی مانند جوینر که از لینکدین برای بازاریابی کسب و کار خود استفاده می کند، نگران شدند. جوینر گفت: «من واقعاً دوست دارم لینکدین در قبال هرگونه سوگیری که ممکن است در الگوریتم آن وجود داشته باشد، پاسخگو باشد. اما لینکدین، مانند سایر پلتفرم‌های جستجو و رسانه‌های اجتماعی وابسته به LLM، جزئیات کمی در مورد نحوه آموزش مدل‌های انتخاب محتوا ارائه می‌دهد. مارشال گفت که بیشتر این پلتفرم‌ها «ذاتاً دیدگاهی سفیدپوست، مردانه و غربی‌محور را در خود جای داده‌اند» به این دلیل که چه کسی مدل‌ها را آموزش داده است. محققان شواهدی مبنی بر تعصبات انسانی مانند تبعیض جنسی و نژادپرستی در مدل‌های محبوب LLM پیدا می‌کنند، زیرا این مدل‌ها بر اساس محتوای تولید شده توسط انسان آموزش می‌بینند و انسان‌ها اغلب مستقیماً در یادگیری پس از آموزش یا تقویت مشارکت دارند. با این حال، نحوه پیاده‌سازی سیستم‌های هوش مصنوعی هر شرکتی در راز جعبه سیاه الگوریتمی پنهان است. لینکدین می گوید که آزمایش WearthePants نمی تواند سوگیری جنسیتی را علیه زنان نشان دهد. بیانیه یورکا در ماه اوت گفت - و رئیس بخش هوش مصنوعی و مدیریت لینکدین، ساکشی جین، در پست دیگری در ماه نوامبر تکرار کرد - که سیستم های آن از اطلاعات جمعیتی به عنوان سیگنالی برای دید استفاده نمی کنند. در عوض، لینکدین به TechCrunch گفت که میلیون‌ها پست را برای اتصال کاربران به فرصت‌ها آزمایش می‌کند. شرکت به TechCrunch گفت: داده‌های جمعیتی فقط برای چنین آزمایش‌هایی استفاده می‌شود، مانند مشاهده اینکه آیا پست‌های «سازندگان مختلف در شرایط برابر با هم رقابت می‌کنند و اینکه تجربه پیمایش، آنچه در فید می‌بینید، بین مخاطبان یکسان است یا خیر». لینکدین به دلیل تحقیق و تنظیم الگوریتم خود در تلاش برای ارائه تجربه ای کم سوگیری برای کاربران مورد توجه قرار گرفته است. مارشال گفت، این متغیرهای ناشناخته هستند که احتمالاً توضیح می دهند که چرا برخی از زنان پس از تغییر جنسیت پروفایل خود به مرد، تأثیرات بیشتری را مشاهده کردند. برای مثال، مشارکت در یک روند ویروسی می‌تواند منجر به افزایش تعامل شود. برخی از حساب‌ها برای اولین بار پس از مدت‌ها پست می‌کردند، و این الگوریتم احتمالاً می‌توانست برای انجام این کار به آنها پاداش دهد. لحن و سبک نوشتن نیز ممکن است نقشی داشته باشد. برای مثال، میشل می‌گوید هفته‌ای که به‌عنوان «مایکل» پست کرد، لحن خود را کمی تنظیم کرد و به سبکی ساده‌تر و مستقیم‌تر نوشت، همانطور که برای شوهرش انجام می‌دهد. این زمانی بود که او گفت که برداشت‌ها 200 درصد افزایش یافت و تعاملات 27 درصد افزایش یافت. او به این نتیجه رسید که این سیستم «صراحتاً جنسیت‌گرا» نیست، اما به نظر می‌رسد سبک‌های ارتباطی که معمولاً با زنان مرتبط است را «نمایشی برای ارزش پایین‌تر» می‌داند. اعتقاد بر این است که سبک های نوشتاری کلیشه ای مردانه مختصرتر هستند، در حالی که تصور می شود کلیشه های سبک نوشتاری برای زنان نرم تر و احساسی تر هستند. اگر یک LLM برای تقویت نوشتاری که با کلیشه های مردانه مطابقت دارد آموزش دیده باشد، این یک سوگیری ظریف و ضمنی است. و همانطور که قبلاً گزارش دادیم، محققان تشخیص داده‌اند که اکثر LLM‌ها با آنها سرگردان هستند. سارا دین، استادیار علوم کامپیوتر در کرنل، گفت که پلتفرم‌هایی مانند لینکدین اغلب از کل پروفایل‌ها، علاوه بر رفتار کاربر، هنگام تعیین محتوا برای تقویت محتوا استفاده می‌کنند. این شامل مشاغل در نمایه کاربر و نوع محتوایی است که معمولاً با آن درگیر هستند. دین گفت: «میزان جمعیتی یک فرد می‌تواند بر «هر دو طرف» الگوریتم تأثیر بگذارد - چه چیزی می‌بیند و چه کسی آنچه را که پست می‌کند می‌بیند. لینکدین به TechCrunch گفت که سیستم‌های هوش مصنوعی آن صدها سیگنال را بررسی می‌کنند تا مشخص کنند چه چیزی به کاربر ارسال می‌شود، از جمله بینش‌هایی از نمایه، شبکه و فعالیت یک فرد. سخنگوی گفت: «ما آزمایش‌های مداوم را برای درک اینکه چه چیزی به افراد کمک می‌کند مرتبط‌ترین و به‌موقع‌ترین محتوا را برای حرفه‌شان پیدا کنند، انجام می‌دهیم. "رفتار اعضا همچنین فید را شکل می‌دهد، اینکه افراد روی چه چیزی کلیک می‌کنند، ذخیره می‌کنند، و با چه تغییراتی درگیر می‌شوند، و چه قالب‌هایی را می‌پسندند یا نمی‌پسندند. این رفتار همچنین به طور طبیعی آنچه را که در فیدها در کنار به‌روزرسانی‌های ما نشان داده می‌شود، شکل می‌دهد." چاد جانسون، کارشناس فروش فعال در لینکدین، این تغییرات را بی‌اهمیت‌سازی لایک‌ها، کامنت‌ها و پست‌های مجدد توصیف کرد. جانسون در پستی نوشت: «سیستم LLM دیگر اهمیتی نمی‌دهد که چند بار یا در چه ساعتی از روز پست می‌کنید». "این مهم است که نوشته شما درک، وضوح و ارزش را نشان می دهد." همه اینها تعیین علت واقعی نتایج WearthePants را دشوار می کند.

مردم فقط الگو را دوست ندارند

People just dislike the algo

مردم فقط الگوریتم را دوست ندارند، با این وجود، به نظر می‌رسد بسیاری از افراد، در هر جنس، الگوریتم جدید لینکدین را دوست ندارند یا نمی‌فهمند – هر چه که باشد. Shailvi Wakhulu، دانشمند داده، به TechCrunch گفت که به‌مدت پنج سال به‌طور میانگین روزانه حداقل یک پست می‌نویسد و هزاران برداشت را می‌دید. حالا او و شوهرش خوش شانس هستند که چند صد نفر را می بینند. او گفت: «این برای سازندگان محتوا با دنبال‌کنندگان وفادار زیاد، انگیزه‌بخش است. مردی به TechCrunch گفت که در چند ماه گذشته حدود 50 درصد کاهش در تعامل داشته است. با این حال، مرد دیگری گفت که در یک بازه زمانی مشابه، تعداد بازدیدهای پست و افزایش بیش از 100٪ افزایش یافته است. او به TechCrunch گفت: "این بیشتر به این دلیل است که من در مورد موضوعات خاص برای مخاطبان خاص می نویسم، چیزی که الگوریتم جدید پاداش می دهد." و افزود که مشتریانش افزایش مشابهی را مشاهده می کنند. اما در تجربه مارشال، او که سیاه‌پوست است، معتقد است پست‌های مربوط به تجربیات او نسبت به پست‌های مربوط به نژاد او ضعیف‌تر عمل می‌کنند. او می‌گوید: «اگر زنان سیاه‌پوست فقط وقتی در مورد زنان سیاه‌پوست صحبت می‌کنند، تعامل برقرار می‌کنند، اما در مورد تخصص خاص خود صحبت نمی‌کنند، پس این یک تعصب است. محقق، دین، معتقد است که این الگوریتم ممکن است به سادگی «هر سیگنالی را که در حال حاضر وجود دارد» تقویت کند. این می‌تواند برای پست‌های خاصی پاداش داشته باشد، نه به دلیل جمعیت‌شناسی نویسنده، بلکه به این دلیل که سابقه پاسخ‌گویی به آن‌ها در سراسر پلتفرم بیشتر بوده است. اگرچه مارشال ممکن است به حوزه دیگری از تعصب ضمنی برخورد کرده باشد، شواهد حکایتی او برای تعیین قطعیت آن کافی نیست. لینکدین بینش هایی را در مورد آنچه اکنون به خوبی کار می کند ارائه کرد. این شرکت گفت که پایگاه کاربران رشد کرده است و در نتیجه، پست‌ها 15 درصد نسبت به سال گذشته افزایش یافته است، در حالی که نظرات 24 درصد افزایش یافته است. این شرکت گفت: «این به معنای رقابت بیشتر در خوراک است. در این بیانیه آمده است که پست‌های مربوط به بینش‌های حرفه‌ای و درس‌های شغلی، اخبار و تحلیل‌های صنعت، و آموزش یا محتوای آموزنده در مورد کار، تجارت و اقتصاد، همگی خوب هستند. اگر چیزی باشد، مردم فقط گیج می شوند. میشل گفت: "من شفافیت می خواهم." با این حال، از آنجایی که الگوریتم‌های انتخاب محتوا همیشه از اسرار شرکت‌های خود محافظت می‌کنند و شفافیت می‌تواند به بازی کردن آنها منجر شود، این یک سوال بزرگ است. این موردی است که بعید است هرگز راضی شود.

• AI
• algorithms
• DEI
• LinkedIn
• llm
• Social
• social media