هوش مصنوعی اخلاقی: یک الزام استراتژیک جدید برای استخدام و کارمندان

سیستم‌های هوش مصنوعی این پتانسیل را دارند که سوگیری ناخودآگاه موجود در فرآیندهای استخدام و گزینش را تا حد زیادی کاهش دهند و در عین حال کارایی را افزایش دهند و استخدام‌کنندگان انسانی را آزاد کنند تا روی وظایف با ارزش بالاتر کار کنند. در عین حال، اطمینان از اینکه هوش مصنوعی به طور مسئولانه، منصفانه و اخلاقی استفاده می شود، بسیار مهم است. در این گفتگوی اجرایی، رهبران فکری TCS و Randstad درباره چگونگی دستیابی موفقیت آمیز به هر دو هدف بحث می کنند.(مدیریت منابع انسانی)

هوش مصنوعی با توجه به استفاده از آن در همه چیز، از سرگرمی گرفته تا تجارت الکترونیک، در حال حاضر روزانه زندگی ما را تحت تأثیر قرار می دهد. اما همه نمی دانند که شرکت ها از هوش مصنوعی برای استخدام و استخدام نیز استفاده می کنند. این رویکرد فرصت بزرگی را برای بهبود عادلانه بودن فرآیندهای استخدام فعلی، به‌ویژه وقتی صحبت از حذف تعصب ناخودآگاه می‌شود، ارائه می‌دهد. سیستم‌های هوش مصنوعی همچنین قول می‌دهند که فرآیندهای خسته‌کننده مانند ایجاد شرح شغل و زمان‌بندی مصاحبه را خودکار کنند و به افراد درگیر اجازه می‌دهد زمان بیشتری را با نامزدها صرف کنند تا دقت استخدام‌ها و تجربه جویندگان کار بهبود یابد.

شکی نیست که انسان ها در فرآیند استخدام در معرض سوگیری ناخودآگاه هستند. در واقع، بر اساس کدکس سوگیری شناختی که توسط جان منوگیان و باستر بنسون ایجاد شده است، بیش از 180 سوگیری شناختی مختلف وجود دارد که افراد مستعد ابتلا به آنها هستند. آموزش ریشه‌یابی این سوگیری‌ها به رفع این مشکل کمک می‌کند، اما همانطور که تحقیقات دیگر نشان می‌دهد، آن را به طور کامل حل نمی‌کند.

از سوی دیگر، نرم‌افزار در معرض آن نوع سوگیری‌های شناختی نیست که انسان‌ها را آزار می‌دهد. استفاده از یک الگوریتم هوش مصنوعی آموزش داده شده توسط مجموعه داده های یادگیری ماشین (ML) یک پیشرفت بزرگ است – تا زمانی که سیستم تعصبات خود را معرفی نکند و برای تصمیم گیری های مبتنی بر بینش استفاده شود.

خواه بررسی اطلاعات متقاضی کار، انتخاب نامزدها برای مصاحبه، ارزیابی یا انجام مصاحبه باشد، هر مرحله از فرآیند استخدام سنتی در برابر سوگیری های ناخودآگاه انسانی آسیب پذیر است. با اعمال هوش مصنوعی مناسب، اخلاقی و مسئولانه در آن مراحل مختلف، می‌توانید سوگیری ناخودآگاه ذاتی آن فرآیندها را کاهش داده و حتی از بین ببرید. این یک هدف مهم است، زیرا شرکت‌ها به طور فزاینده‌ای به دنبال نتایج منصفانه‌تر و فراگیرتر از نظر افرادی هستند که انتخاب می‌شوند و چه کسانی استخدام می‌شوند، به طوری که به نوبه خود، نیروی کار بسیار بیشتری داشته باشند. تحقیقات نشان می‌دهد شرکت‌هایی که متنوع‌تر و فراگیرتر هستند، عملکرد بهتری نسبت به سایرین دارند و همچنین دارای سطوح بالایی از مشارکت کارکنان هستند.

علاوه بر کاهش تعصب، سیستم‌های مبتنی بر هوش مصنوعی برای استخدام می‌توانند تجربه متقاضیان شغل را با ایجاد دید بیشتر در فرآیند انتخاب نامزد بهبود بخشند. از لحاظ تاریخی، هر فرصت شغلی ممکن است صدها متقاضی را دریافت کند. اکثریت قریب به اتفاق تا زمانی که این موقعیت بسته نشود (و اغلب حتی در آن زمان هم چیزی نمی شنوند). هوش مصنوعی می‌تواند توانایی انسان را برای تعامل با این افراد و حتی ارائه ارزیابی‌هایی برای این افراد تقویت کند و اعلان‌ها را به صورت خودکار به نامزدهای احتمالی، از جمله اخباری مبنی بر اینکه آنها حداقل شرایط لازم برای این نقش را ندارند، افزایش دهد. این یک پیشرفت چشمگیر در تجربه جویای کار است.

هوش مصنوعی همچنین می‌تواند نامزدهای داخلی را برجسته کند که برای موقعیت‌های باز مناسب هستند، اما در غیر این صورت ممکن است نادیده گرفته شوند. این قابلیت همچنین با ایجاد امکان تحرک و حمایت از مسیرهای شغلی آنها به افزایش رضایت کارکنان کمک می کند، که منجر به تعامل و حفظ بیشتر می شود.

برای مدیران منابع انسانی، مزایای قابل توجهی است که آنها را قادر می سازد ده ها، و نه صدها، رزومه را به سرعت مرتب کنند، و نامزدهایی را مشخص کنند که به بهترین وجه شرایط شغلی را برآورده می کنند و بنابراین بیشترین احتمال را برای مطابقت با آنها دارند. به جای ارائه رزومه‌ها به ترتیبی که وارد شده‌اند، این سیستم می‌تواند بهره‌وری استخدام‌کنندگان و همچنین انصاف و جامعیت را با فشار دادن رزومه‌های واجد شرایطی که بعداً در بالای مجموعه قرار گرفتند، افزایش دهد. نتیجه: تناسب بهتر هم برای نامزد و هم برای شرکتی که استخدام را انجام می دهد.

اجتناب از تعصب ناخواسته

همه ما می دانیم که انسان ها دارای سوگیری های ناخودآگاه قبلی هستند که بر استخدام تأثیر می گذارد. امید اولیه این بود که هوش مصنوعی 100 درصد تعصب در استخدام و استخدام را حذف کند. اما در چند سال گذشته، مردم به سرعت متوجه شدند که اگرچه ماشین‌ها در معرض سوگیری ناخودآگاه نیستند، ممکن است از تعصب الگوریتمی رنج ببرند. و در حالی که برخی ممکن است بگویند مغز انسان جعبه سیاه نهایی است، تحقیقات اولیه با سیستم‌های یادگیری عمیق نشان داد که الگوریتم‌ها در پردازش خود به همان اندازه مبهم هستند – یعنی تقریبا غیرممکن بود که بفهمیم چگونه الگوریتم‌ها به نتیجه نهایی رسیدند. .

اگر سوگیری در یک سیستم استخدام مبتنی بر هوش مصنوعی وجود داشته باشد، تأثیر بالقوه بر فراگیری می‌تواند قابل توجه باشد. به عنوان مثال، اگر یک سوگیری سیستمی ذاتی علیه هر گروه خاصی از افراد وجود داشته باشد، این سوگیری در تمام تصمیمات آن سازگار خواهد بود – نه به طور متغیر، همانطور که در مورد استخدام کنندگان انسانی است. بالقوه برای آسیب از نظر دعوی قضایی، جریمه های نظارتی (به ویژه از مقررات حفاظت از داده های عمومی اروپا یا GDPR)، نگرانی های سهامداران و کارکنان، و آسیب به شهرت وجود دارد.

در مقابل، سیستم‌های هوش مصنوعی شفاف یا «قابل توضیح» درک اینکه چگونه به یک نتیجه خاص رسیده‌اند را ممکن می‌سازد. (به «هوش مصنوعی قابل توضیح هوش مصنوعی اخلاقی است مراجعه کنید.») کلید این مفهوم از نظر استخدام و استخدام این است که بتوانید توضیح دهید که چرا کاندید A انتخاب شده است، در حالی که کاندید B انتخاب نشده است. خطرات برای درست کردن آن زیاد است.

استفاده از بهترین شیوه ها برای انصاف و شمول

اصل اساسی حفظ برابری فرصت ها برای همه است. این بدان معناست که اگر دو نفر به طور مساوی واجد شرایط باشند، باید فرصت برابر برای نتیجه (مانند انتخاب شدن برای مصاحبه یا در نهایت استخدام شدن) داشته باشند. سازمان‌ها باید اهدافی را برای تنوع، برابری، و شمولیت تعیین کنند و تلاش کنند تا جمعیت‌شناسی نیروی کار یک شرکت را با اعضای آن هماهنگ کنند، سپس اندازه‌گیری کنند که چقدر به این اهداف دست می‌یابند. البته انجام این کار مستلزم جمع‌آوری داده‌های جمعیتی کلیدی مانند جنسیت، سن، نژاد، قومیت، مدارک تحصیلی و غیره است. داده‌ها ضروری هستند، زیرا بدون اطلاعات جمعیت‌شناختی، سازمان‌ها نمی‌توانند آزمایش و اندازه‌گیری کنند که آیا تلاش‌های آنها به نتایج منصفانه و فراگیر منجر می‌شود یا خیر.

دو روش برای جمع آوری اطلاعات جمعیتی وجود دارد. اولین مورد این است که از افراد جویای کار اطلاعات جمعیتی آنها را بپرسید و اجازه آنها را برای استفاده از این اطلاعات در دستورالعمل های قابل قبول دریافت کنید. دوم استفاده از مجموعه داده های ناشناس ارائه شده توسط منبع دیگری یا از طریق یک سیستم هوش مصنوعی جداگانه است که می تواند ویژگی های جمعیتی را با درجه بالایی از دقت استنتاج کند.

بسیاری از شرکت‌ها تمایل دارند این مرحله را نادیده بگیرند، اما انجام اندازه‌گیری‌های پایه از دقت و عادلانه بودن فرآیندهای استخدام دستی قبل از انتقال به یک سیستم هوش مصنوعی می‌تواند بسیار مفید باشد.

داشتن یک انسان در حلقه برای تصمیم‌گیری واقعی یکی دیگر از بهترین روش‌ها است – برای مثال، روشی که توسط GDPR مورد نیاز است، که الزامات اضافی را برای تصمیم‌گیری خودکار تعیین می‌کند. این امر مستلزم احتیاط است، اما، زیرا وارد کردن یک فرد در فرآیند خطر اضافه کردن مشکل سوگیری ناخودآگاه را به معادله می‌دهد. اندازه‌گیری عادلانه و جامع بودن پیش‌بینی‌های انجام‌شده توسط راه‌حل هوش مصنوعی در برابر تصمیم‌گیری‌های احتمالی توسط انسان‌ها می‌تواند مفید باشد.

به عنوان یک حفاظت، مهم است که مراحلی را که در آن پتانسیل سوگیری انسانی بالاتر است، شناسایی کنید، سپس به دنبال راه حل های طراحی شده ای باشید که هدف آن به حداقل رساندن سیستماتیک آن تعصب باشد. به عنوان مثال، یکی از زمینه‌هایی که به ویژه در معرض تعصبات انسانی است، ایجاد شرح شغل است که می‌تواند منجر به دلسرد کردن گروه‌هایی که از لحاظ تاریخی کمتر نمایندگی شده‌اند را از درخواست منصرف کند. یک راه حل مبتنی بر هوش مصنوعی که کلمات کلیدی و الزامات صلاحیت را ساده می کند، می تواند به ایجاد شرح شغلی عادلانه تر و فراگیرتر کمک کند.

مصاحبه حوزه دیگری است که تعصب ناخودآگاه می تواند وارد آن شود. به طور سنتی، بسیاری از تصمیمات استخدامی صرفاً بر این اساس گرفته می‌شوند که آیا مصاحبه‌کننده از نامزد خوشش می‌آید یا خیر – اجتناب از تأثیر سوگیری ناخودآگاه در غیر این صورت تصمیم‌های به ظاهر «عادلانه» می‌تواند چالش برانگیز باشد. البته سیستم‌های هوش مصنوعی نمی‌توانند افراد را دوست داشته باشند یا دوست نداشته باشند، و بنابراین می‌توانند به عنوان منبعی خنثی‌تر که در کنار انسان‌ها کار می‌کند، ارزش افزوده داشته باشند.

بسته به کلمات کلیدی مورد استفاده برای یافتن نامزدهای احتمالی، مرحله جستجو و تطبیق نیز می تواند مشکل ساز باشد. افراد می توانند به طور ناخودآگاه نامزدها را صرفاً بر اساس عباراتی که تصمیم به جستجو دارند حذف کنند، که گاهی اوقات می تواند به سادگی جستجوی عنوان باشد. یک راه حل اساسی جستجو و تطبیق فقط می تواند مطابقت دقیق کلمات کلیدی را برگرداند، بنابراین مگر اینکه استخدام کنندگان نتوانند همه عناوین و کلمات کلیدی معادل را برای یک شغل معین فکر کرده و جستجو کنند، نامزدهای واجد شرایطی را که صرفاً از عناوین و اصطلاحات در شغل خود استفاده می کنند، ناآگاهانه حذف خواهند کرد. رزومه هایی غیر از رزومه هایی که استخدام کننده جستجو کرده است.

راه‌حل‌های جستجو و تطبیق مبتنی بر هوش مصنوعی می‌توانند با گسترش پرس‌و‌جوها به منظور گنجاندن عبارات معادل و مرتبط برای به حداکثر رساندن گنجاندن، از چنین محرومیت‌های ناخودآگاه جلوگیری کنند. راه‌حل‌هایی که نام افراد و ویژگی‌های جمعیتی مانند سن، جنسیت، نژاد، قومیت و منشأ ملی را بی‌نام می‌کنند، می‌توانند از تعصبات انسانی در تصمیم‌گیری برای انتخاب شدن برای مصاحبه جلوگیری کنند. این راه‌حل‌ها همچنین می‌توانند برای استخدام‌کنندگان «نابینا» از مشاهده مؤسسه آموزشی خاص یک نامزد تنظیم شوند، زیرا در غیر این صورت ممکن است دسترسی نابرابر به فارغ‌التحصیلان دانشگاه‌ها و کالج‌های نخبه وجود داشته باشد. سازمان‌ها می‌توانند این راه‌حل‌ها را برای کور کردن این جمعیت‌شناختی و سایر جمعیت‌ها با توجه به تنوع و اهداف شمول خود تنظیم کنند.

برای کاهش تعصب از تکنیک های آزمایش شده و واقعی استفاده کنید

از آنجایی که بسیار بعید است که هر راه حل هوش مصنوعی بدون تعصب «خارج از جعبه» باشد، لازم است از تکنیک های کاهش تعصب استفاده شود. برای مثال:

• هدف پیش‌پردازش حذف ویژگی‌های سوگیری از مجموعه داده‌ها قبل از انجام پردازش است. اطمینان از اینکه داده‌هایی که برای آموزش سیستم هوش مصنوعی خود استفاده می‌کنید، نمونه‌گیری منصفانه و نماینده است، یکی از روش‌های پیش پردازش است. برای مثال، اگر می‌خواهید از داده‌های تاریخی برای آموزش استفاده کنید، باید اطمینان حاصل کنید که حداقل برای 80 درصد از نقش‌ها یا دسته‌های شغلی که برای آنها استخدام می‌کنید، اطلاعات جمعیت شناختی برای تعداد قابل توجهی از افراد در هر نقش جمع‌آوری کنید. /دسته بندی. این به شما این امکان را می دهد که سوگیری را در طول آزمایش و قبل از استفاده در تولید اندازه گیری کرده و آن را کاهش دهید.
• سوگیری خصمانه شامل استفاده از یک الگوریتم برای کمک به کاهش تعصب موجود در الگوریتم دیگر است. به عنوان مثال، یک الگوریتم نامزدی را انتخاب می کند تا برای یک کار در یک مجموعه داده خاص توصیه شود. سپس الگوریتم دوم فرآیندی را برای «حدس زدن» ویژگی‌های حساس اساسی (جنس، سن، نژاد و غیره) فرد توصیه شده اجرا می‌کند. اگر الگوریتم دوم بتواند با موفقیت ویژگی‌های حساس آن شخص را طبقه‌بندی کند، می‌توانید الگوریتم اول را به‌طور ایده‌آل تنظیم کنید تا توصیه‌های نامزدی تولید کند که در آن الگوریتم دوم دیگر نمی‌تواند آن ویژگی‌های حساس را به‌طور دقیق پیش‌بینی کند، بهتر از انجام تصادفی آن نیست. این فرآیند می‌تواند برای تنظیم توانایی الگوریتم در جهت نفع یا نارضایتی سیستماتیک جنسیت، نژاد یا سایر عوامل جمعیت‌شناختی نامزد مورد استفاده قرار گیرد.
• پس پردازش به گونه‌ای طراحی شده است که نتایج ذاتاً مغرضانه را دریافت کند و آنها را به روشی منصفانه و نماینده بازنویسی کند. به عنوان مثال، اگر متقاضیان شغل مهندس نرم افزار 70٪ مرد و 30٪ زن باشند، بر اساس تفاوت بین اینکه چگونه مردان و زنان تمایل دارند تجربیات خود را در رزومه نشان دهند، این خطر وجود دارد که نامزدهای زن در رتبه های بسیار پایین تر قرار گیرند. فهرست نامزدهای منطبق است و ممکن است مورد بررسی و بررسی قرار نگیرد. راه حل این است که یک قانون پس از پردازش را اعمال کنید تا اطمینان حاصل شود که هر بلوک از نتایج (مثلاً 10) که توسط یک استخدام کننده بررسی می شود، 70٪ متقاضیان مرد و 30٪ متقاضیان زن باشد.
• ترکیب رفتار و علوم تصمیم‌گیری می‌تواند به کاهش سوگیری ناخودآگاه در تصمیم‌گیری کمک کند. این شامل استفاده از تئوری رنگ، پردازش گفتار، و پارامترهای فیزیو روانشناختی است که توسط مقررات دولتی و صنعتی مجاز است. این تکنیک‌های نوظهور روش‌های مرسوم را به چالش می‌کشند و به تصمیم گیرنده کمک می‌کنند تا بینش‌هایی داشته باشد که اخلاقی و عاری از هرگونه سوگیری ناخودآگاه باشد.

بهره مندی از مزایای فرآیندهای استخدام خودکار

هوش مصنوعی همچنین می تواند همراه با سیستم های دیگر برای خودکارسازی بسیاری از فرآیندهای استخدام و استخدام استفاده شود. برای مثال، اگر نامزدها برای مشاغل خارج از ساعات کاری عادی درخواست دهند، یک سیستم خودکار می‌تواند درخواست‌های آنها را ارزیابی کند و در صورت داشتن حداقل معیارهای شغلی، آنها را برای مصاحبه علامت‌گذاری کند. از طریق چت بات، سیستم حتی می تواند یک مصاحبه با یک مشتری خوب را در محل برنامه ریزی کند. این به نوبه خود نشان دهنده افزایش کارآمدی (دیگر تماس های تلفنی و ایمیل های رفت و برگشتی نیست) و همچنین یک تجربه دلپذیرتر و توانمندتر برای نامزدهای شغلی برتر است. تحقیقات نشان می دهد که نامزدهای شغلی هزاره، به ویژه، از راحتی و رضایت فوری ارائه شده توسط سرویس چت بات قدردانی می کنند.

در عین حال، سیستم‌های خودکار همچنین می‌توانند تعامل با نامزدهایی را که حداقل شرایط شغلی را برآورده نمی‌کنند یا ترجیحات آنها با موقعیت شغلی مطابقت ندارد، بهبود بخشد. داوطلبان از هدر ندادن وقت خود در زمانی که شغل خاصی برای آنها مناسب نیست، قدردانی می کنند. یک سیستم مجهز به هوش مصنوعی می‌تواند بلافاصله به این متقاضیان اطلاع دهد و مشاغل آزاد دیگری را که برای آنها واجد شرایط هستند توصیه کند. افزودن پردازش زبان طبیعی به داوطلبان این امکان را می‌دهد که به‌عنوان مثال، به جای مبارزه با یک فرم در تلفن همراه، پاسخ‌های خود را به یک سیستم بیان کنند. پتانسیل بسیار زیادی برای ارائه یک تجربه روان تر، کارآمدتر و لذت بخش برای همه نامزدها و در عین حال افزایش کارایی استخدام کنندگان و رضایت شغلی وجود دارد.

به این ترتیب، هوش مصنوعی می‌تواند به ایجاد یک تجربه در سطح مصرف‌کننده، هم برای کارمندان درون سازمانی و هم برای نامزدهای شغلی در تمام مدت تصدی خود با یک کارفرما کمک کند. چشم انداز یک تجربه واحد است که کانال های متعدد تعامل و گزینه های سلف سرویس زیادی را ارائه می دهد. با شخصیت‌ها و سفرهای کاربر که به خوبی طراحی شده‌اند، هوش مصنوعی همچنین می‌تواند به ارائه تکان‌های به‌موقع برای راهنمایی کاربران به مرحله بعدی کمک کند و تجربه رضایت‌بخش‌تری را ایجاد کند. به عنوان مثال، اگر نامزدهای امیدوار کننده رزومه خود را آپلود کرده باشند اما همچنان نیاز به ارائه مدارک مورد نیاز اضافی داشته باشند، سیستم می تواند از آنها بخواهد که پیگیری کنند تا درخواست های آنها مورد بررسی قرار نگیرد.

هوش مصنوعی همچنین می‌تواند سازمان را قادر سازد تا مجموعه‌های استعدادی ایجاد کند که جذب و استخدام را به‌عنوان یک فرآیند مستمر در نظر می‌گیرد، برخلاف رویدادهای مجزا و غیر مرتبط. به عنوان مثال، زمانی که یک سازمان برای نیازهای استخدامی خود در طی یک دوره چند ساله برنامه ریزی می کند، می تواند از هوش مصنوعی برای ایجاد گروه های استعدادی که می تواند در طول زمان به دست آورد، استفاده کند، نه به طور همزمان. این به استخدام‌کنندگان امکان می‌دهد تا روابطی را ایجاد کنند که با ایجاد فرصت‌های شغلی، از استخدام مولدتر پشتیبانی کند. بنابراین، هوش مصنوعی می‌تواند سازمان را قادر سازد تا دیدگاه استراتژیک‌تر و جامع‌تری نسبت به نیازهای استخدامی خود داشته باشد.ایجاد یک تیم هوش مصنوعی برای کارمندان و استخدام

در تجربه ما، مهم است که یک تیم متقابل کارکردی درگیر در تلاش‌های نیروی انسانی و استخدامی شما با هوش مصنوعی باشد، از جمله:g:

منبع:هاروارد