نقش انسان در فرایندهای سازمانی مبتنی بر هوش مصنوعی

هوش مصنوعی در سازمان‌ها دیگر فقط برای پاسخ‌گویی به سؤال‌ها یا تولید متن استفاده نمی‌شود. ابزارهای جدید می‌توانند اسناد را بخوانند، اطلاعات را استخراج کنند، درخواست‌ها را اولویت‌بندی کنند، مسیر انجام کار را پیشنهاد دهند و حتی بعضی فعالیت‌های سازمانی را به‌صورت خودکار پیش ببرند. بااین‌حال، هرچه اختیارات AI بیشتر شود، اهمیت نظارت انسانی نیز افزایش پیدا می‌کند.

سازمان‌ها برای استفاده کنترل‌شده از این فناوری به بستری نیاز دارند که هوش مصنوعی را با داده‌ها، فرایندها، سطوح دسترسی و سیاست‌های داخلی هماهنگ کند. پلتفرم هوش مصنوعی سازمانی آسا با امکان استقرار متناسب با زیرساخت سازمان، حفظ محرمانگی داده‌ها و یکپارچگی با اکوسیستم دیدگاه، چنین مسیری را برای سازمان‌ها فراهم می‌کند.

هوش مصنوعی چگونه وارد فرایندهای سازمانی شده است؟

اتوماسیون سنتی براساس قواعد از پیش تعیین‌شده کار می‌کند. برای مثال، اگر مبلغ یک درخواست از حد مشخصی بیشتر باشد، سیستم آن را برای مدیر مالی ارسال می‌کند. مسیر از قبل تعریف شده است و نرم‌افزار فقط همان قواعد را اجرا می‌کند.

هوش مصنوعی یک مرحله جلوتر می‌رود. این فناوری می‌تواند محتوای درخواست را تحلیل کند، اطلاعات پراکنده را کنار هم قرار دهد، موارد مشکوک را تشخیص دهد و براساس داده‌های موجود، اقدام مناسب را پیشنهاد کند. در چنین شرایطی، AI فقط مجری یک دستور ثابت نیست؛ بلکه در بخشی از فرایند تحلیل و تصمیم‌گیری نیز مشارکت می‌کند.

برخی کاربردهای آن در سازمان عبارت‌اند از:

• خلاصه‌سازی نامه‌ها، صورت‌جلسات و رزومه‌ها
• استخراج اطلاعات از فاکتورها و قراردادها
• پیشنهاد مسیر ارجاع مکاتبات
• آماده‌سازی پیش‌نویس پاسخ نامه
• شناسایی مغایرت‌ها و موارد غیرعادی
• اولویت‌بندی درخواست‌ها
• پیشنهاد اقدام بعدی در یک فرایند
• پاسخ‌گویی به پرسش‌های کارکنان براساس اطلاعات سازمان

گسترش این کاربردها یک سؤال مهم ایجاد می‌کند: اگر هوش مصنوعی در فرایندهای سازمانی تصمیم‌ساز یا اقدام‌کننده باشد، نقش انسان چه خواهد بود؟

Human-in-the-Loop چیست؟

Human-in-the-Loop یا «انسان در حلقه» مدلی است که در آن هوش مصنوعی بخشی از کار را انجام می‌دهد، اما کنترل نهایی در نقاط حساس همچنان در اختیار انسان باقی می‌ماند. در این مدل، AI ممکن است اطلاعات را جمع‌آوری و تحلیل کند، پیشنهاد ارائه دهد یا مراحل کم‌ریسک را خودکار انجام دهد؛ اما هنگام رسیدن به یک اقدام حساس، فرایند متوقف می‌شود و منتظر بررسی انسان می‌ماند. کارشناس می‌تواند پیشنهاد هوش مصنوعی را تأیید، رد یا اصلاح کند.

بنابراین نظارت انسانی به معنی بازگشت به انجام دستی همه کارها نیست. هدف این است که:

• فعالیت‌های تکراری به هوش مصنوعی واگذار شوند.
• موارد عادی بدون توقف پیش بروند.
• استثناها به کارشناس مربوط ارجاع داده شوند.
• تصمیم‌های حساس بدون تأیید انسان اجرا نشوند.
• مسئولیت نهایی هر اقدام مشخص باقی بماند.

چرا انسان همچنان در فرایندهای هوشمند ضروری است؟

هوش مصنوعی می‌تواند حجم زیادی از اطلاعات را سریع‌تر از انسان تحلیل کند؛ اما سرعت و قدرت پردازش به‌تنهایی برای مدیریت فرایندهای سازمانی کافی نیست.

درک زمینه و شرایط سازمان

یک تصمیم ممکن است از نظر داده‌ای منطقی باشد، اما با شرایط خاص سازمان تطابق نداشته باشد. روابط میان واحدها، استثناهای اجرایی، حساسیت‌های مدیریتی و تجربه‌های قبلی همیشه به‌طور کامل در داده‌ها ثبت نشده‌اند. انسان می‌تواند این زمینه را هنگام تصمیم‌گیری در نظر بگیرد.

کنترل خطاهای احتمالی

خروجی هوش مصنوعی همیشه قطعی و بدون خطا نیست. اطلاعات ناقص، داده نامعتبر، برداشت نادرست از متن یا استفاده از مدل نامناسب می‌تواند نتیجه را تغییر دهد. بررسی انسانی از تبدیل یک پیشنهاد اشتباه به اقدامی قطعی جلوگیری می‌کند.

مسئولیت‌پذیری

در موضوعاتی مانند پرداخت، استخدام، ارزیابی کارکنان، ارسال نامه رسمی یا اعطای دسترسی، باید مشخص باشد چه فردی تصمیم نهایی را گرفته است. سازمان نمی‌تواند مسئولیت یک تصمیم مهم را صرفاً به الگوریتم واگذار کند.

رعایت امنیت و محرمانگی

مدل هوش مصنوعی نباید به همه اطلاعات سازمان دسترسی داشته باشد. سطح دسترسی باید براساس نقش، سمت، موضوع و حساسیت داده تعیین شود. انسان نیز باید بر درخواست‌هایی که با اطلاعات محرمانه یا راهبردی ارتباط دارند نظارت کند.

مدیریت استثناها

بخش بزرگی از ارزش نیروی انسانی در مواجهه با موقعیت‌هایی مشخص می‌شود که با قواعد عادی تطابق ندارند. AI می‌تواند موارد معمول را مدیریت کند، اما درخواست‌های مبهم، متناقض یا پرریسک باید به فرد متخصص ارجاع داده شوند.

انسان در کدام نقاط فرایند باید دخالت کند؟

حضور انسان در تمام مراحل، مزیت اتوماسیون را از بین می‌برد. از طرف دیگر، حذف کامل کنترل انسانی نیز ریسک سازمان را افزایش می‌دهد. بنابراین باید نقاط مداخله به‌درستی انتخاب شوند.

پیش از انجام اقدامات حساس

برخی اقدامات باید همیشه به تأیید انسان برسند؛ از جمله:

• پرداخت یا انتقال وجه
• حذف یا ویرایش اطلاعات اصلی
• ارسال نامه رسمی به خارج از سازمان
• امضای قرارداد
• اعطای سطح دسترسی
• رد قطعی یک درخواست
• تصمیم‌گیری درباره استخدام یا ارزیابی افراد

هنگام پایین‌بودن اطمینان هوش مصنوعی

اگر AI نتواند با اطمینان کافی موضوع یک نامه، اطلاعات فاکتور یا مسیر ارجاع را تشخیص دهد، باید درخواست را به کارشناس تحویل دهد. آستانه اطمینان می‌تواند متناسب با حساسیت هر فرایند متفاوت باشد.

هنگام مشاهده مغایرت

اگر مبلغ فاکتور با قرارداد مطابقت نداشته باشد، اطلاعات یک رزومه ناقص باشد یا درخواست با سیاست‌های سازمان تناقض داشته باشد، هوش مصنوعی باید به‌جای ادامه خودکار، مغایرت را ثبت و برای بررسی ارسال کند.

پس از اجرای فرایند

حتی اقداماتی که خودکار انجام می‌شوند باید قابل ردیابی باشند. مدیر یا مالک فرایند باید بتواند ببیند هوش مصنوعی چه کاری انجام داده، از چه اطلاعاتی استفاده کرده و نتیجه چه بوده است.

مدل همکاری انسان و هوش مصنوعی چگونه کار می‌کند؟

یک فرایند سازمانی مبتنی بر هوش مصنوعی می‌تواند مسیر زیر را طی کند:

1. درخواست، نامه، سند یا داده وارد سیستم می‌شود.
2. هوش مصنوعی اطلاعات را استخراج و تحلیل می‌کند.
3. نوع درخواست، میزان ریسک و سطح اطمینان مشخص می‌شود.
4. فعالیت‌های عادی و کم‌ریسک به‌صورت خودکار ادامه پیدا می‌کنند.
5. موارد حساس یا نامطمئن برای فرد مسئول ارسال می‌شوند.
6. کارشناس نتیجه را تأیید، رد یا اصلاح می‌کند.
7. تصمیم نهایی و سابقه اقدامات ثبت می‌شود.
8. داده‌های حاصل برای ارزیابی و بهبود فرایند مورد استفاده قرار می‌گیرند.

برای طراحی چنین مسیری، سازمان علاوه بر AI به یک ساختار مشخص برای گردش کار، مسئولیت‌ها و نقاط کنترل نیاز دارد. نرم‌افزار مدیریت فرایندهای کسب‌وکار دیدگاه امکان طراحی، اجرا و ردیابی فرایندهای سازمانی را فراهم می‌کند و می‌تواند بستر تعریف مراحل بررسی و تأیید انسانی باشد.

نمونه‌های حضور انسان در فرایندهای هوشمند

بررسی فاکتور و درخواست پرداخت

هوش مصنوعی اطلاعات فاکتور را استخراج و آن را با قرارداد، سفارش خرید و اطلاعات تأمین‌کننده مقایسه می‌کند. اگر همه اطلاعات کامل و منطبق باشند، درخواست وارد مرحله بعد می‌شود. در صورت مشاهده مغایرت، پرونده برای کارشناس مالی ارسال خواهد شد. در این سناریو، AI ورود و تطبیق اولیه اطلاعات را انجام می‌دهد؛ اما تصمیم درباره پرداخت یک مورد مشکوک بر عهده کارشناس باقی می‌ماند.

پاسخ‌گویی به مکاتبات اداری

هوش مصنوعی می‌تواند نامه را خلاصه کند، موضوع آن را تشخیص دهد و پیش‌نویس پاسخ آماده کند. کارشناس متن را بررسی می‌کند و پس از اصلاح احتمالی، مجوز ارسال می‌دهد. به این ترتیب زمان تهیه پاسخ کاهش پیدا می‌کند، بدون آنکه کنترل لحن و محتوای مکاتبه از دست سازمان خارج شود.

ارجاع هوشمند نامه‌ها

AI براساس موضوع، فرستنده، سوابق مشابه و ساختار سازمانی، گیرنده مناسب را پیشنهاد می‌دهد. اگر اطمینان کافی وجود داشته باشد، ارجاع طبق قواعد تعیین‌شده انجام می‌شود؛ اما نامه‌های حساس یا مبهم به مسئول دبیرخانه تحویل داده می‌شوند.

بررسی رزومه‌ها

هوش مصنوعی می‌تواند رزومه‌ها را خلاصه و اطلاعاتی مانند سابقه، مهارت‌ها و تحصیلات را استخراج کند. بااین‌حال، تصمیم نهایی درباره مناسب‌بودن فرد باید توسط کارشناس منابع انسانی و مدیر واحد گرفته شود؛ زیرا ارزیابی افراد صرفاً به تطبیق چند کلمه یا سابقه شغلی محدود نیست.

اعطای سطح دسترسی

AI می‌تواند براساس سمت و مسئولیت کاربر، دسترسی مناسب را پیشنهاد دهد؛ اما دسترسی به اطلاعات محرمانه، مالی یا مدیریتی باید پس از تأیید مسئول تعیین‌شده فعال شود.

چگونه سطح مداخله انسان را تعیین کنیم؟

برای همه فعالیت‌ها نمی‌توان یک سطح نظارت یکسان در نظر گرفت. سازمان باید براساس چند عامل تصمیم بگیرد:

• حساسیت داده: آیا فرایند با اطلاعات محرمانه یا شخصی ارتباط دارد؟
• اثر تصمیم: نتیجه اشتباه چه پیامدی برای سازمان ایجاد می‌کند؟
• بازگشت‌پذیری: آیا اقدام انجام‌شده قابل لغو یا اصلاح است؟
• میزان اطمینان AI: مدل با چه احتمالی نتیجه درست ارائه کرده است؟
• الزامات قانونی: آیا تصمیم به تأیید فرد دارای اختیار نیاز دارد؟
• مبلغ عملیات: آیا درخواست از سقف مالی مشخصی بیشتر است؟
• وجود استثنا: آیا مورد با مسیر استاندارد تفاوت دارد؟

براساس این معیارها، فعالیت‌ها را می‌توان به سه دسته تقسیم کرد:

• اقدامات کم‌ریسک که به‌صورت خودکار انجام می‌شوند.
• اقداماتی که AI پیشنهاد می‌دهد و انسان تأیید می‌کند.
• تصمیم‌های حساس که AI فقط اطلاعات لازم را آماده می‌کند و تصمیم کامل با انسان است.

پلتفرم هوش مصنوعی سازمانی چه نقشی دارد؟

استفاده کنترل‌شده از AI با به‌کارگیری ابزارهای عمومی و حساب‌های شخصی کارکنان به دست نمی‌آید. سازمان به بستری نیاز دارد که هوش مصنوعی را در محدوده داده‌ها، مجوزها و سیاست‌های داخلی به کار بگیرد.

یک پلتفرم سازمانی باید بتواند:

• با داده‌ها و سامانه‌های داخلی یکپارچه شود.
• محرمانگی اطلاعات را حفظ کند.
• متناسب با سطح دسترسی کاربران پاسخ دهد.
• امکان استفاده از مدل‌های آنلاین، آفلاین یا ترکیبی را فراهم کند.
• فعالیت‌های هوشمند را در کنار فرایندهای رسمی سازمان قرار دهد.
• زمینه نظارت، کنترل و ارزیابی خروجی‌ها را فراهم کند.

پلتفرم آسا با رویکرد RAG، امکان استفاده از اطلاعات اختصاصی سازمان را در محیطی تحت کنترل فراهم می‌کند. این پلتفرم می‌تواند متناسب با سیاست‌های امنیتی سازمان به‌صورت درون‌سازمانی، آنلاین یا هیبریدی پیاده‌سازی شود. سرویس‌هایی مانند دستیار هوشمند، خلاصه‌سازی مکاتبات و رزومه‌ها و قابلیت‌های برنامه‌ریزی‌شده‌ای مانند پاسخ و ارجاع هوشمند، زمینه استفاده عملی از AI را در اکوسیستم دیدگاه ایجاد می‌کنند.

چالش‌های پیاده‌سازی نظارت انسانی

تأییدهای بیش‌ازحد: اگر هر اقدام ساده به تأیید انسان نیاز داشته باشد، فرایند هوشمند عملاً به همان گردش کار دستی تبدیل می‌شود. نظارت باید روی نقاط حساس و استثناها متمرکز باشد.

اعتماد بی‌چون‌وچرا به AI: ممکن است کارکنان به‌مرور پیشنهادهای هوش مصنوعی را بدون بررسی تأیید کنند. نمایش دلیل پیشنهاد، داده‌های استفاده‌شده و میزان اطمینان می‌تواند احتمال تأییدهای غیرآگاهانه را کاهش دهد.

نامشخص‌بودن مسئولیت: باید از ابتدا مشخص شود چه کسی مسئول بررسی خروجی AI است. موضوع مالکیت داده و مسئولیت واحدها در پروژه‌های فناوری اهمیت زیادی دارد؛ مسئله‌ای که در مقاله چالش‌های یکپارچه‌سازی سیستم‌های سازمانی نیز بررسی شده است.

نبود سابقه قابل حسابرسی: تأیید یا رد خروجی AI باید همراه با زمان، هویت فرد و در صورت نیاز دلیل تصمیم ثبت شود. این اطلاعات برای کنترل داخلی، رسیدگی به خطاها و بهبود عملکرد مدل ضروری‌اند.

استفاده پنهانی کارکنان از ابزارهای عمومی: اگر سازمان مسیر رسمی و امنی برای استفاده از AI ایجاد نکند، ممکن است کارکنان اطلاعات کاری را در ابزارهای عمومی وارد کنند. این وضعیت ریسک افشای اطلاعات و تصمیم‌گیری خارج از چارچوب سازمان را افزایش می‌دهد. مقاله مردم در سال ۲۰۲۶ واقعاً چگونه از هوش مصنوعی استفاده می‌کنند؟ ابعاد این نوع استفاده و خطر واگذاری بیش‌ازحد تصمیم‌ها به AI را بررسی می‌کند.

چگونه فرایندی با نظارت انسانی طراحی کنیم؟

1. فعالیت‌های تکراری، تحلیلی و تصمیمی را از یکدیگر جدا کنید.
2. اقدامات حساس و غیرقابل‌بازگشت را شناسایی کنید.
3. سطح دسترسی AI به داده‌ها و ابزارها را تعیین کنید.
4. برای هر فعالیت، آستانه ریسک و اطمینان تعریف کنید.
5. مسئول بررسی و تأیید هر نوع استثنا را مشخص کنید.
6. مسیر رد، اصلاح، ارجاع و توقف فرایند را طراحی کنید.
7. سابقه اقدامات AI و تصمیم‌های انسانی را ثبت کنید.
8. ابتدا فرایند را در مقیاس محدود اجرا و ارزیابی کنید.
9. میزان خطا، زمان انجام و تعداد ارجاعات انسانی را بسنجید.
10. قواعد و آستانه‌ها را براساس نتایج واقعی اصلاح کنید.

موفقیت این مدل را چگونه بسنجیم؟

فقط کاهش زمان انجام کار نشان‌دهنده موفقیت نیست. سازمان باید سه گروه شاخص را کنار هم بررسی کند:

• سرعت: زمان متوسط انجام فرایند و مدت انتظار برای تأیید
• کیفیت: نرخ خطای AI، تعداد اصلاحات و درصد تصمیم‌های ردشده
• کنترل: تعداد اقدامات حساس ثبت‌شده، موارد خارج از مسیر و کامل‌بودن سوابق
• بهره‌وری: میزان کاهش فعالیت‌های تکراری کارکنان
• اعتماد: میزان پذیرش کاربران و کیفیت استفاده از پیشنهادهای AI
• ریسک: تعداد مغایرت‌ها، دسترسی‌های نامجاز یا تصمیم‌های نیازمند بازگشت

هدف این نیست که تعداد مداخلات انسانی به صفر برسد. هدف آن است که انسان فقط در جایی وارد شود که قضاوت، تخصص یا مسئولیت او ارزش واقعی ایجاد می‌کند.

جمع‌بندی

آینده فرایندهای سازمانی نه کاملاً انسانی است و نه کاملاً خودکار. هوش مصنوعی می‌تواند داده‌ها را تحلیل کند، اسناد را بخواند، پیشنهاد ارائه دهد و کارهای تکراری را پیش ببرد؛ اما تصمیم‌های حساس، استثناها و مسئولیت نهایی همچنان به حضور انسان نیاز دارند. الگوی Human-in-the-Loop کمک می‌کند سازمان میان سرعت و کنترل تعادل برقرار کند.

در این مدل، AI جایگزین نیروی انسانی نمی‌شود؛ بلکه زمان او را از فعالیت‌های تکراری آزاد می‌کند تا بر قضاوت، کنترل و تصمیم‌گیری‌های مهم تمرکز داشته باشد. استفاده از پلتفرم هوش مصنوعی سازمانی آسا در کنار فرایندهای یکپارچه دیدگاه، مسیر استفاده امن و هدفمند از هوش مصنوعی را فراهم می‌کند؛ مسیری که در آن داده‌ها تحت کنترل سازمان باقی می‌مانند و فناوری در خدمت تصمیم‌گیری بهتر انسان قرار می‌گیرد.

سؤالات متداول