« ناجینگ؛ تهدید نرم و پنهانی که باید جدی گرفت »

• تا سال ۲۰۲۵، نزدیک به ۷۰ درصد از شرکت‌ها استفاده پایدار و اخلاقی از هوش مصنوعی را در میان دغدغه‌های اصلی خود شناسایی خواهند کرد.
• تا سال ۲۰۲۵، نزدیک به ۷۰ درصد از درخواست‌های پشتیبانی که از طریق چت‌بات‌های مجهز به GenAI پاسخ‌دهی می‌شوند، به دلیل بی‌اعتمادی مشتریان، نیازمند نظارت انسانی خواهند بود و هزینه‌های خدمات را تا ۴۰ درصد افزایش می‌دهد.
• تا سال ۲۰۲۵، استفاده از داده‌های مصنوعی، حجم داده‌های واقعی مورد نیاز برای یادگیری ماشینی را تا ۷۰ درصد کاهش می‌دهد.
• تا سال ۲۰۲۵، نزدیک به ۳۰ درصد از پیام‌های پروپاگاندیست‌ها و بازاریابان توسط هوش مصنوعی تولید می‌شود. این رقم در سال ۲۰۲۲ کمتر از ۲ درصد بود.
• تا سال ۲۰۲۶، با وجود تمام پیشرفت‌های هوش مصنوعی، تأثیر آن بر مشاغل جهانی، خنثی خواهد بود – یعنی کاهش یا افزایش چشم گیری وجود نخواهد داشت. اما از آن به بعد تا سال ۲۰۳۰، هوش مصنوعی می‌تواند دستاوردهای کنترلی مهمی‌ داشته باشد، برای مثال: انتشار CO2 جهانی را ۵ تا ۱۵ درصد کاهش دهد. بدین منظور، هوش مصنوعی تا ۲۰۳۰، تا ۳٫۵ درصد از برق نیروگاه‌های جهان را مصرف می‌کند.
• همچنین تا سال ۲۰۳۰، هوش مصنوعی به خاطر disruptive بودن راه حل‌هایش برای نظامات ناکارآمد، خسارات سنگینی را به بار خواهد آورد، زیرا تصمیماتی که توسط عوامل هوش مصنوعی (AI agents) بدون نظارت انسانی اتخاذ می‌شود، صد میلیارد دلار خسارت ناشی از تخریب دارایی‌ها را به همراه خواهد داشت.

درنهایت: تا سال ۲۰۳۳، راه حل‌های هوش مصنوعی منجر به بیش از نیم میلیارد شغل جدید برای انسان‌ها خواهد شد.

با محاسبه این سودوزیان‌‌ها باید تا دیر نشده چاره‌ای اندیشید. نتیجۀ یکی از چاره اندیشی‌ها، شرکت مدیران و کارشناسان در کلاس‌های هومص است.

در مورد این کلاس‌ها و دوره‌ها (برای مثال) رجوع کنید به عنوان و برنامۀ کلاس‌ها و دوره‌های برگذار شونده توسط مؤسسۀ گارتنر به نشانی‌های زیر:

https://www.gartner.com/en/information-technology/glossary/large-language-models-llm

و

https://www.gartner.com/en/information-technology/insights/cio-new-role

و … )

این یادداشت در مورد خوبی و بدی هومص نیست، بلکه در بارۀ یکی دیگر از امکانات کاربرد هوش مصنوعی مولد به نامِ «ناجینگ» در مدیریت کنترل است که برای اِعمال کنترل نرم بر رفتار کاربران به کار می‌رود. [منظورم از «یکی دیگر از امکانات کاربرد هوش مصنوعی مولد» اشاره به یادداشتی است که قبلاً حدود سه ماه پیش (آذر ۱۴۰۲) در مورد امکان «پرامپتینگ هوش مصنوعی» نوشتم و منتشر کردم (رجوع شود به «دستاوردهای فاوا و هوش مصنوعی در حوزۀ “پرامپتینگ”» در اینجا: (https://asreertebat.com/?p=46739 ).

• «ناجینگ هوش مصنوعی» و «پرامپتینگ هوش مصنوعی»

«ناجینگ هوش مصنوعی» (AI Nudging) شباهت‌ها و تفاوت‌هایی با «پرامپتینگ هوش مصنوعی» (AI Prompting) دارد. هر دو آنها، تکنیک‌هایی هستند که برای تأثیرگذاری بر رفتار کاربران و رسیدن به نتایج مورد انتظار استراتژیست‌های سکوی هوش مصنوعی مربوطه استفاده می‌شوند. ترفند تأثیرگذاری ناجینگ شامل ارائه سرنخ‌ها یا دستورالعمل‌هایی برای هدایت و راهبری نامحسوس کاربران است؛ کاربرانی که معمولاً کارشناسان و مدیران شرکت‌ها و ذینفعانی در عرصۀ عمومی ‌یا در بخش خصوصی و در دولت‌ها هستند و راهنمایی نرم ایشان در فرآیند تصمیم‌سازی و تصمیم‌گیری از طریق القائات هوش مصنوعی می‌تواند مفید باشد، در حالی که سازندگان و طراحان برنامۀ ناجینگ، از تقویت کاربران و ارائۀ پیشنهادهای غیرمستقیم به سوژه‌های خود برای تأثیرگذاری بر رفتارشان تا حصول نتایج مورد انتظارِ نظریه پردازان، استراتژیست‌ها و صاحبان سکوی هوش مصنوعیِ مولد، استفاده می‌کنند.

• «هُنَرِ ناج»

«هُنَرِ ناج» (the Art of the Nudge) یا «هنر تَلَنگُر»، در عمل به صورت‌های متنوع به خدمت گرفته می‌شود. یکی از اشکالِ اِعمال “هُنَرِ ناج”، گنجاندن نکات کلیدی، پیشنهادها و پرسش‌هایی در متن ارائه شونده توسط هوش مصنوعی مولد به کاربر است. با ارائۀ آنها بر کاربران، توجه کاربران را معمولاً جلب می‌کنند و همان نکات کلیدی و پرسش‌ها توسط کاربران به عنوان پرسش کاربر از چتبات در ورودی سیستم هوش مصنوعی، اِعمال می‌شود و متعاقب آن، دستورالعمل‌هایی خاص در خروجی هوش مصنوعی مولد به کاربر ارائه می‌شوند.

از سوی دیگر، فعالیت هوش مصنوعی شامل استفادۀ برخط از داده‌های زمان-واقعی یا پیش‌بینی‌های انجام‌شده توسط هوش مصنوعی برای تأثیرگذاری بر رفتار کاربر تا حصول نتایج مورد انتظار صاحبان پلتفرم هوش مصنوعی، مدتها ادامه می‌یابد. این نوع تأثیرگذاری می‌تواند از طریق مداخلات ظریف یا پیشنهاددهی غیرمستقیم برای هدایت فرآیند تصمیم‌سازی و تصمیم‌گیری توسط کاربران اِعمال شود.

تحقیقات پیرامون «ترفند ناجینگ» نشان می‌دهند که ناجینگ می‌تواند یک استراتژی موثر برای تأثیرگذاری نرم بر رفتار کاربرانِ (یا قربانیانِ) هوش مصنوعی باشد.

قانون نویسان و مقررات گذاران بخش برآیندۀ هوش مصنوعی: به هوش باشند!

بخش اقتصادی هوش مصنوعی مولد تازه پدیدار گردیده و به سرعت در حال بالیدن است. لذا بخشی برآینده (Emerging Sector) در اقتصاد دیجیتالی کشورها به شمار می‌آید.

همان طور که معمولاً تبلیغ می‌شود: ناجینگ گاه برای رسیدن به اهدافی مثبت در راستای خیر عموم به کار می‌رود ولی همچنین برای مقاصدی گمراه کننده هم مورد استفاده یا سوء استفاده قرار می‌گیرد. لذا مجامعی که در اندیشۀ قانون نویسی و مقررات گذاری برای تنظیم بخش اقتصادی هوش مصنوعی هستند باید بر امکانات مثبت و منفی هوش مصنوعی اشراف داشته باشند و نوعی از ناجینگ را که مقاصد ضد دموکراتیک و تبعیض آمیز را دنبال می‌کند، عقیم و قابل پیشگیری کنند.

• معنی «ناجینگ»

ناج (Nudge)، نام یکی از حرکاتِ زبان اشاره (Body language) است که در فارسی به آن، «تَلَنگُر» یا «سُقلمۀ نرم» می‌توان گفت. لذا ناجینگ را بهتر است «تلنگرزنی به قصد توجه دهی و باورسازی» ترجمه کرد.

برای درک بهتر ناجینگ تصور کنید: شما وقتی که پهلو به پهلو در کنار افراد دیگری قرار گرفته‌اید و می‌خواهید بی‌سروصدا و بدون کلام، توجه دیگران را به سویی و چیزی که به نظرتان مهم است جلب کنید، معمولاً با آرنج خود، آرام به بغلدستی، تلنگر می‌زنید و با حرکت سر و تکان دادن انگشتِ سبابه، به جهت معینی اشاره می‌کنید، به امید آن که فرد بغلدستی، متوجه منظور شما شود و به همان سو بنگرد و سپس به نوبۀ خود تلنگری به بغلدستی دیگرش بزند و همین طور الی آخر… تا این که به این ترتیب در کوتاه مدت، توجه عدۀ زیادی به موضوع مورد نظر شما جلب شود بی‌آنکه کلامی ‌در این میان رد و بدل شود. در انگلیسی به فعل تلنگر زدن آرام به دیگری برای متوجه کردن وی به سویی و چیزی بدون استفاده از کلام، to nudge می‌گویند.

حالا در نظر بگیرید که در مورد «ناجینگ هوش مصنوعی»، این سامانۀ هومص است که موذیانه تلنگر می‌زند! به چه کسانی؟ – به کاربران!

• «نظریۀ ناج»

تئوری ناج (Nudge Theory) یا نظریۀ تلنگر، معتقد به استفاده از تقویت مثبت و ارائۀ القائات و پیشنهادهای غیرمستقیم به گروهی از کاربران رسانه‌های اجتماعی برای تأثیرگذاری نرم بر رفتار و تصمیم‌سازی و تصمیم‌گیری ایشان است و ناجینگ را مؤثرترین روش برای مهندسی رفتار جمعی می‌شمارد؛ القائات و پیشنهادهای ارائه شده توسط هومص معمولاً باورپذیر و اغلب درست هستند اما اگر هم القائات و پیشنهادهای ارائه شده نادرست باشند یا به زیان عدۀ کثیری از قربانیان (سوژه‌های ناجینگ) تمام شوند، ظاهری موجه دارند.

نمونۀ موفقیت آمیز و تاریخیِ بکارگیری «نظریۀ ناج»، بهره‌گیری ترامپ از رسانه‌های اجتماعی برای خام کردن رأی‌دهندگان و معماری انتخاب ریاست جمهوری در سال ۲۰۱۶ به کمک پوتین بود که منجر به تأثیرگذاری بر رأی‌دهندگان و پیروزی وی علیه هیلاری کلینتون در انتخابات ریاست جمهوری ایالات متحده شد.

با این حال، توجه به این نکته مهم است که اِعمال نظریۀ ناج می‌تواند در خدمت «رویکردهای حفظ آزادی» نیز باشد و افراد را به سمت انتخاب‌های بهتر هدایت ‌کنند بدون این که آزادی آنها را محدود گرداند.

بنابراین، در حالی که نظریۀ ناج پتانسیل پیامدهای مثبت و منفی دارد، اجرای اخلاقی آن در تعیین تأثیر کلی آن بسیار مهم است.

• دو نوع ناجینگ: ایستا و پویا

ناجینگ ایستا زمانی اتفاق می‌افتد که یک سازمان از روش‌های هوش مصنوعی برای کنترل افراد، از طریق توصیه‌های هدفمند (مثلاً از default)، بدون اخذ مجوز از کاربر و بدون آگاهی دادن به افراد، استفاده می‌کند. این شکل از ناجینگ مبتنی بر مفهوم نظریۀ ناج، شامل راهبری و هدایت افراد به روشی قابل پیش بینی اما بدون دادن پیش آگاهی و اخذ اجازۀ صریح از آنها است.

بر خلاف ناجینگ ایستا، ناجینگ پویا مبتنی بر (سوء)استفاده از داده‌های بی‌درنگ به علاوۀ پیش آگاهی و پیش‌بینی‌هایی است که هوش مصنوعی دربارۀ رفتار بعدی یک کاربر انجام می‌دهد. ناجینگ ایستا به صراحت به عنوان بخشی از سیستم یاددهی، طراحی نمی‌شود و بر اساس بهره‌مندی از داده‌های زمان واقعی نیز شکل نمی‌گیرد. بلکه مبتنی بر الگوریتمی‌ مدیریتی، کاربر را به پذیرش توصیه‌های هدفمند، راهبری می‌کند.

ازآغاز سال ۲۰۲۳ که چتبات‌های هوش مصنوعی مولد تاکنون توسط میلیون‌ها نفر در سراسر جهان استفاده شده‌اند و شرکت‌های بزرگ برای ارتقاءِ بهره‌وریِ کارکنان و تحریک مشتریان خود، انواع پیشرفتۀ سامانه‌های تخصصی هوش مصنوعی مولد را به خدمت گرفته‌اند، استفاده از تکنیکِ «ناجینگ هوش مصنوعی» به طور فزاینده‌ای برای تأثیرگذاری بر رفتار کاربران، در دستورِ کارِ صاحبانِ این سامانه‌ها بوده است و خواهد بود. این نوع ناجینگ شامل تأثیرگذاری نامحسوس بر تصمیمات و رفتارهای افراد از طریق مداخلات کوچک (موسوم به Micro Nudge) و شخصی‌سازی بروندادها است.

در نتیجه، استفادۀ عمومی‌ از هوش مصنوعی مولد در برنامه‌های کاربردی خرید اینترنتی، در بازی‌ها و بخصوص در بازی‌سازی مشاغل در درون نهادها و شرکت‌ها، رعایت ملاحظات اخلاقی معین و استاداردهای حفظ شفافیت، به علاوۀ احترام به استقلال کاربر، و اجتناب از تاکتیک‌های ناجینگ گمراه کننده و دستکاری داده‌ها را، هم مطرح می‌کند و هم افزایش می‌دهد.

لذا، در حالی که امکان ناجینگ هوش مصنوعی، فرصت‌هایی را برای هدایت رفتار کاربران به سمت نتایج سودمند به وجود می‌آورد، همچنین نگرانی‌هایی را در مورد پیامدهای اخلاقی و پتانسیل دستکاری چتبات‌های هوش مصنوعی مولد ایجاد می‌کند.

به کارگیری هوش مصنوعی در علوم رفتاری و طب بالینی برای تلقین و یاددهی، مستلزم توجه دقیق به دستورالعمل‌های اخلاقی است.

ناجینگ پویا که توسط هوش مصنوعی فعال می‌شود، با استفاده از داده‌های بی‌درنگ و بینش‌های پیش‌بینی‌کننده برای تأثیرگذاری بر رفتار کاربر به شیوه‌ای شخصی‌شده و مرتبط با زمینۀ مربوط، کار می‌کند.

بر خلاف ناجینگ ایستا (static nudging)، ناجینگ پویا (dynamic nudging) را می‌توان بر اساس قصد کاربر و موقعیتی که در آن قرار دارد در هر آن، تغییر داد و برای هدایت کاربران به سمت اقدامات دلخواه و مؤثر به خدمت گرفت.

با استفاده از ناجینگ پویا، شرکت‌ها می‌توانند به طور موثر رفتار کاربران را شکل دهند و تجربه کلی کاربر را با ارائه راهنمایی‌های به موقع و شخصی‌سازی شده بهبود بخشند و در نهایت باعث ایجاد تعامل و حفظ کاربران شوند.

مزایای استفاده از ناجینگ پویا نسبت به ناجینگ ایستا، عبارتند از موارد زیر:

• شخصی سازیِ زمان-واقعیِ بروندادها: ناجینگ پویا بر اساس داده‌ها و پیش بینی‌های زمان-واقعی اجرا می‌شود که امکان مداخلات شخصی و مرتبط با زمینۀ کاری کاربر را فراهم می‌کند. در نتیجۀ شخصی‌سازی بی‌درنگ بروندادها، ناجینگ پویا در مقایسه با ناجینگ ایستا تأثیرگذاری مؤثرتر و بیشتری بر رفتار کاربر دارد.
• افزایش اثربخشی: نشان داده شده است که ناجینگ پویا نسبت به راهنماهای آموزشی از پیش بارگذاری شده مؤثرتر است، زیرا زمان صرف شده برای کاربران برای رسیدن به ویژگی‌های مورد نظر را کاهش، تعامل کاربر را افزایش دهد و تجربه کلی کاربر را بهبود بخشد.
• تطبیق پذیری و هوشمندی: ناجینگ پویا می‌تواند قصد کاربر و موقعیتی را که در آن قرار دارد درک کند، برونداد خود را متناسب با موقعیت کاربر تغییر دهد.

• جمع بندی: ناجینگ در مقایسه با پرامپتینگ

ناجینگ هوش مصنوعی و پرامپتینگ هوش مصنوعی هر دو تکنیک‌هایی هستند که در هوش مصنوعی مولد برای تأثیرگذاری بر رفتار انسانها استفاده می‌شوند، اما تفاوت‌هایی بین این دو وجود دارد به شرح زیر:

1. تفاوت در تعریف: ناجینگ هوش مصنوعی شامل تأثیرگذاری نامحسوس بر رفتار افراد با ایجاد تغییرات کوچک در محیط یا زمینه کاری کاربر است، در حالی که پرامپتینگ هوش مصنوعی شامل ارائه تذکرها یا یادآوری مستقیم به کاربر برای تحریک و تشویق وی به انجام یک اقدام خاص است.
2. تفاوت در تمرکز: ناجینگ هوش مصنوعی بیشتر بر تغییر رفتار از طریق نشانه‌های محیطی، مانند تغییر طرح‌بندی یک وب‌سایت یا فروشگاه متمرکز است، در حالی که پرامپتینگ هوش مصنوعی بیشتر بر تغییر رفتار از طریق محاوره و برقراری ارتباط مستقیم با کاربر متمرکز است.
3. تفاوت در زمان‌بندی: ناجینگ هوش مصنوعی اغلب برای تأثیرگذاری بر رفتار برخط و زمان-واقعیِ کاربر استفاده می‌شود، مانند زمانی که شخصی در حال مرور یک وب‌سایت یا خرید در یک فروشگاه است، در حالی که پرامپتینگ هوش مصنوعی را می‌توان در هر زمانی استفاده کرد، مانند زمانی که یک کاربر اعلان می‌کند که آماده دریافت پرامپتینگ است.

۴٫ تفاوت در مقاصد: ناجیگ هوش مصنوعی اغلب برای تشویق کاربران به رفتاری عمومی‌استفاده می‌شود، مثلاً برای کاهش مصرف انرژی، در حالی که از پرامپتینگ هوش مصنوعی می‌توان برای یادآوری جهت مصرف داروهای ضروری کاربر یا پرداخت به موقع صورت‌حساب‌ها استفاده کرد. (منبع:عصرارتباط)