هوش مصنوعی در حال تغییر شکل کارکرد، نوآوری و رقابت سازمان‌ها است—از چت‌بات‌های خدمات مشتری تا سیستم‌های پیچیده تشخیص تقلب. این تحول هم چالش‌ها و هم فرصت‌هایی را برای حسابرسان(ممیزان) داخلی ایجاد می‌کند. ارائه اطمینان و بینش مستقل در زمینه ریسک و کنترل همواره بخش مهمی از کار ما بوده است. اکنون مسئولیت ما این است که فراتر از «جعبه سیاه» نگاه کنیم، چون هوش مصنوعی به‌طور عمیق‌تری در سازمان ادغام می‌شود تا اطمینان حاصل شود که این سیستم‌های قدرتمند به‌طور مؤثر اداره می‌شوند.
برای آغاز این فرایند، حسابرسان داخلی باید با درک پایه‌ای و محکم از مدل‌های هوش مصنوعی، ملاحظات تجاری مرتبط با آن‌ها و الزامات استقرار مسئولانه آن‌ها آشنا شوند.
انواع هوش
درک دقیق از نوع هوشی که با آن سروکار داریم، گام نخست هر حسابرسی است که به یک سیستم هوش مصنوعی نزدیک می‌شود. امروزه از اصطلاح «هوش مصنوعی محدود» (Artificial Narrow Intelligence — ANI) استفاده می‌شود، که گاهی با عنوان «هوش مصنوعی ضعیف» یا «هوش مصنوعی باریک» شناخته می‌شود. به ANI همچنین «هوش مصنوعی متخصص» نیز گفته می‌شود، زیرا برای انجام یک کار مشخص به‌خوبی برنامه‌ریزی شده است — به‌عنوان مثال سیستمی که به ماشین در انجام رانندگی کمک می‌کند. ANI گونه‌ای از هوش است که رفتار انسان را تقلید می‌کند، اما فقط در مجموعه‌ای از قوانین و موقعیت‌های بسیار خاص.
هوش مصنوعی عمومی (AGI) معمولاً با عنوان «هوش مصنوعی قوی» یا «هوش مصنوعی عمیق» نیز شناخته می‌شود. این نوع هوش مصنوعی قادر است فکر کند، درک کند، بیاموزد و از دانش خود برای حل مسائل پیچیده استفاده نماید—همان‌گونه که انسان عمل می‌کند. AGI بر پایه یک «نظریه ذهن» عمل می‌کند: شبیه‌سازی رفتار انسان و درک احساسات، باورها و افکار دیگران.
در نهایت، می توان وجود هوش مصنوعی‌ای را تصور کرد که از سطح هوش انسان فراتر رود؛ هوش مصنوعیِ فوق‌العاده (ASI). این نوع هوش مصنوعی می‌تواند هر وظیفه‌ای را بهتر از انسان انجام دهد، احساسات و تجربیات انسانی را درک کند و همچنین ممکن است دارای احساسات، باورها و خواسته‌های خاص خود باشد. ASI قادر خواهد بود به تنهایی تفکر کند، مسأله‌ها را حل کند و قضاوت نماید و کل تصمیم‌گیری‌هایش را به‌تنهایی انجام دهد.
برخی از اندیشمندان باور دارند که رسیدن به ASI می‌تواند «تکینگی فناوری» (technological singularity) را به‌وجود آورد؛ نقطه‌ای که در آن ماشین‌ها به قدری قدرتمند می‌شوند که می‌توانند جهان ما را به شیوه‌هایی تغییر دهند که از پیش قابل پیش‌بینی نیست. هرچند هنوز به آن سطح نرسیده‌ایم، اما احتمال وجود هوش فوق‌العاده هم جذاب است و هم ممکن است چندان دلگرم‌کننده نباشد و به‌نوعی نگران‌کننده به نظر آید که به آن فکر کنیم.
درک یادگیری هوش مصنوعی و نقش حسابرسان
برای درک عمیق ممیزی هوش مصنوعی، ابتدا باید بفهمیم چگونه یاد می‌گیرد. این فرایند لزوماً جادو نیست و عموماً یکی از سه رویکرد زیر را به کار می‌برد.
1)یادگیری نظارت‌شده
در این رویکرد، حجم زیادی از داده‌ها که قبلاً با پاسخ صحیح برچسب‌گذاری شده‌اند، به مدل هوش مصنوعی ارائه می‌شود. به‌عنوان مثال، برای آموزش مدل به شناسایی گربه‌ها، هزاران عکس نشان داده می‌شود که هر کدام با برچسب «این یک گربه است» مشخص شده‌اند. پس از دیدن این نمونه‌ها، مدل شروع به یادگیری می‌کند و می‌تواند گربه‌ها را در تصاویر جدید به‌طور مستقل شناسایی کند.
2) یادگیری بدون نظارت
در این حالت، مدل با مجموعه‌ای بزرگ از داده‌های بدون برچسب روبه‌رو می‌شود و هدف آن یافتن الگوها یا ساختارهای پنهان در داده‌ها است. به‌عنوان مثال، یک سیستم تحلیل تراکنش‌های یک سایت تجارت الکترونیک می‌تواند به‌طور خودکار همبستگی‌های پنهانی بین رفتارهای خرید را کشف کند، مانند اینکه کاربرانی که نان می‌خرند اغلب به خرید کره نیز علاقه‌مند هستند. چنین ارتباطاتی معمولاً بدون هرگونه آموزش صریح ارائه می‌شود.
3) یادگیری تقویتی
در یادگیری تقویتی، ماشین از طریق آزمون و خطا یاد می‌گیرد. برای مثال، یک جاروبرقی رباتیک را در نظر بگیرید: وقتی به‌خوبی کار می‌کند، پاداش دریافت می‌کند و وقتی با موانعی برخورد می‌کند یا گیر می‌کند، جریمه می‌بیند. با گذشت زمان، ربات بهینه‌ترین روش تمیزکاری را برای به دست آوردن بالاترین امتیاز و کاهش مشکلات یاد می‌گیرد.
نگرانی‌های کلیدی اطمينان‌بخشی برای حسابرسان
داده‌ها و عملکرد
داده‌ها آغاز هر فرایندند: آیا برچسب‌های تصاویر مانند «عکس‌های گربه» دقیق و سازگار هستند؟
تنوع داده‌ها: آیا مجموعه داده به اندازه کافی بزرگ و متنوع است تا نژادها، پس‌زمینه‌ها و تنظیمات مختلف را پوشش دهد؟ یا تنها نمونه‌هایی محدود (مثلاً گربه‌های راه‌راه در آشپزخانه) ارائه شده است؟
کیفیت داده‌های بدون برچسب: آیا داده‌های بدون برچسب از کیفیت بالایی برخوردارند تا از کشف الگوهای گمراه‌کننده توسط مدل جلوگیری شود؟
کارکرد مدل روی داده‌های نامریی: چگونه مطمئن می‌شویم که مدل پس از آموزش، به‌طور قابل اعتماد روی داده‌های جدید و دیده‌نشده کار می‌کند؟
پروتکل ارزیابی منظم: آیا پروتکل مشخصی برای مرور و ارزیابی منظم عملکرد مدل وجود دارد؟ مسئولیت‌ها و دوره‌های زمانی تعریف شده‌اند؟
تعصب و انصاف
بررسی تعصبات پنهان: آیا مدل در تشخیص انواع خاصی از گربه‌ها یا پس‌زمینه‌ها دچار مشکل است؟ آیا تحلیل‌ها نشان می‌دهند که جست‌وجوهای آن واقعاً به نتایج دقیق منتهی می‌شود یا به تکرار کلیشه‌ها می‌انجامد؟
احتمال تقویت کلیشه‌ها در تحلیل رفتار مشتری: هنگام تحلیل رفتار خرید، آیا الگوهای کشف‌شده واقع‌گرایانه‌اند یا صرفاً بازتولید رفتارهای غالب در داده‌های آموزشی‌اند؟
سیستم پاداش ربات: رفتارهای مفید را تقویت می‌کند بدون اینکه به‌طور ناخواسته رفتارهای مضر را تشویق کند؟
قوانین، امنیت و مستندسازی
حفظ حریم خصوصی داده‌ها: آیا از قوانین مربوط به حریم خصوصی داده‌ها تبعیت می‌شود؟ آیا داده‌های حساس مشتریان و تصاویر به‌درستی محافظت یا رمزگذاری شده‌اند؟
ردیابی تاریخی (audit trail): آیا ردپای مستند و واضحی وجود دارد تا بتوان به‌صورت قابل دنبال‌کردن به تصمیمات مدل پاسخ داد؟
مستندسازی کامل: آیا توضیح کاملی از فرایند ساخت مدل، داده‌های استفاده‌شده و دلایل تصمیم‌گیری وجود دارد؟ بدون این مستندسازی، پاسخگویی و حسابرسی ممکن است غیرممکن یا دشوار باشد.
ریسک و اخلاق
شناسایی و اندازه‌گیری خطرات: چه ریسک‌هایی با بزرگی مختلف وجود دارند (مثلاً خطاهای تشخیصی در تحلیل بازار یا خسارات واقعی از یادگیری آزمایشی-خطا در ربات‌ها) و چگونه باید کاهش یابند؟
سوالات اخلاقی: آیا اهداف روبات‌ها با ایمنی کاربران و اصول اخلاقی پایه همسو هستند؟ چگونه می‌توانیم از راستای اخلاقی بودن عملکرد اطمینان حاصل کنیم؟
چرا: اطمینان از اینکه هوش مصنوعی واقعاً در خدمت تجارت است
در پایان ، هدف نهایی همه ممیزی‌ها این است که سیستم هوش مصنوعی به سازمان در دستیابی به اهداف تجاری کمک کند. ارزش واقعی کار ما از پاسخ‌دادن به سؤال‌های کلان تجاری ناشی می‌شود، نه فقط از تأیید صحت فنی سیستم.
نکات کلیدی
- توجیه اقتصادی در مقایسه با فنی تنها: آیا ما به‌صرف خاطر فناوری تصمیم به پذیرش می‌گیریم یا وجود یک توجیه تجاری محکم و بازگشت سرمایه قابل اندازه‌گیری برای این سیستم وجود دارد؟ آیا سطح ریسک موجود با سطح ریسک‌پذیری کل شرکت همسو است؟
- تأثیر ذینفعان: این سیستم چه تأثیراتی بر کارکنان، مشتریان و جامعه دارد؟ همان‌طور که کنسرسیوم جهانی اخلاق در هوش مصنوعی در سال 2025 تأکید کرد، ارزیابی تأثیر انسانی تنها یک امر مطلوب نیست، بلکه سنگ بنای هوش مصنوعی مسئولانه است.
- ملاحظات تصمیم‌گیری: آیا تصمیم‌ها بر اساس ارزش‌های سازمانی، قوانین محلی و استانداردهای اخلاقی انجام می‌شوند یا صرفاً بر مبنای عملکرد مقداری مدل است؟
مسیر پیش روی ممیز
- مهارت‌های ماندگار: ظهور هوش مصنوعی مهارت‌های کلیدی ممیزان داخلی را منسوخ نمی‌کند؛ بلکه آن‌ها را به شکلی مرتبط‌تر و حیاتی‌تر می‌کند. تخصص ما در ریسک، کنترل، حکمرانی و حرفه‌ای‌گریِ تردید دقیقاً همان چیزی است که برای پیمایش در این قلمرو نیاز است.
- نظارت به شریک سفر: با تقویت درک مفاهیم پایه، می‌توانیم از نقش ناظر بودن به شریکان استراتژیک در سفر هوش مصنوعی تبدیل شویم و اطمینان حاصل کنیم که نوآوری و کنترل با هم پیش می‌روند.
- فلسفه آینده ممیزی: آینده فقط مربوط به ممیزی سیستم‌هایی نیست که از تجارت پشتیبانی می‌کنند، بلکه مربوط به ارائه اطمینان درباره سیستم‌هایی است که خود تجارت هستند.
منبع:
برگرفته از مقاله Beyond the Black Box: An Auditor’s Guide to AI Models, Considerations and Requirements
راهنمای ممیزی مدل‌های هوش مصنوعی، ملاحظات و الزامات