برای حفظ سرعت در دنیای کسب‌وکار، سازمان‌ها باید به سرعت اقدام کنند تا در بازار رقابتی باقی بمانند و سهم بازار خود را افزایش دهند. این اغلب شامل پذیرش فناوری‌های نوظهور، از جمله هوش مصنوعی (AI) است. مزایای بالقوه هوش مصنوعی بسیار چشمگیر است؛ هوش مصنوعی وعده می‌دهد که هزینه‌های عملیاتی را کاهش دهد، گردش کار را بهینه کند، و رضایت مشتری را افزایش دهد. اما در شتاب برای ادغام این فناوری‌ها، اغلب اوقات کسب‌وکارها آگاهانه یک عنصر کلیدی مهم را نادیده می‌گیرند: حاکمیت.
اهمیت حاکمیت
حاکمیت به اندازه ریسک و تطابق در نظر عموم جلب توجه نمی‌کند، اما به عنوان پایه و اساس دستیابی به اهداف و مقاصد یک سازمان نقش بسیار مهمی ایفا می‌کند. پیش از پیاده‌سازی فناوری‌های جدید، کسب‌وکارها باید نسبت به طرح پرسش‌های اساسی زیر اقدام کنند:
- چرا این فناوری را ادغام می‌کنیم؟
- این فناوری چه مشکلاتی را حل می‌کند؟
- چگونه پیاده‌سازی آن را مدیریت خواهیم کرد؟
- چگونه اطمینان حاصل می‌کنیم که داده‌هایمان محافظت می‌شود؟
- چه مشکلات یا آسیب‌‌هایی ممکن است به وجود بیاید؟
بسیاری از شرکت‌ها به طور ناخواسته اقدام به پیاده‌سازی فناوری می‌کنند بدون اینکه برآورد دقیقی از استراتژی یا هدفی که آن را حمایت می‌کند، داشته باشند.
نمونه‌ای از مشکلات ناشی از ضعف در حاکمیت
به عنوان مثال، در سال 2024، ایر کانادا در یک دعوی حقوقی شکست خورد که در آن چت‌بات هوش مصنوعی‌اش اطلاعات نادرستی به یک مشتری در مورد نرخ تسهیلات سوگواری ارائه داده بود. پس از اینکه مشتری بر اساس این اطلاعات عمل کرد، ایر کانادا در ابتدا از پذیرش این اطلاعات نادرست خودداری کرد و اظهار داشت که مشتری باید اطلاعات را از طریق لینک ارائه شده تأیید می‌کرد. ایر کانادا سپس سعی کرد استدلال کند که چت‌بات موجودیتی حقوقی جداگانه است، اما یک محاکمه کانادایی علیه این ادعا رای داد و از ایر کانادا خواست تا به مشتری جبران خسارت کند. این پرونده نشان‌دهنده خلأهای مهمی در حاکمیت هوش مصنوعی ایر کانادا بود، از جمله:
- دقت اطلاعات تولید شده توسط هوش مصنوعی
- پاسخ‌گویی در قبال خروجی‌های سیستم‌های هوش مصنوعی
- فرایندهای نظارتی و تایید مناسب
راه‌حل‌ها: استفاده از چارچوب COBIT
چه در حال توسعه یک سیستم هوش مصنوعی درون‌سازمانی باشید و چه در حال ادغام یک سیستم هوش مصنوعی توسعه‌یافته خارجی، می‌توانید از چارچوب‌های موجود مانند COBIT استفاده کنید. COBIT به عنوان یک راهنمای جامع و عملی برای پیاده‌سازی یک سیستم حاکمیتی مؤثر بر هوش مصنوعی عمل می‌کند.
در ادامه، پنج نکته کلیدی در این زمینه آورده شده است:
هم‌راستایی استراتژیک: هنگام پیاده‌سازی یک سامانه هوش مصنوعی، باید اطمینان حاصل کنید که با اهداف استراتژیک سازمان شما هم‌راستا باشد. این امر تضمین می‌کند که اهداف کسب‌وکار شما موجب پیاده‌سازی فناوری‌های شما می‌شوند و نه برعکس.
مدیریت ریسک: درک ریسک‌های مرتبط با سیستم‌های هوش مصنوعی شما بسیار حیاتی است. این امر با شناسایی اجزای هوش مصنوعی قابل اعتماد آغاز می‌شود و شامل ارزیابی و کاهش ریسک‌های هوش مصنوعی برای تطابق با آستانه و سطح تحمل ریسک سازمان شما می‌باشد.
اندازه‌گیری عملکرد: چگونه می‌دانید که پیاده‌سازی هوش مصنوعی شما موفق بوده است؟ با اندازه‌گیری آن! اهدافی برای عملکرد هوش مصنوعی تعیین کنید و معیارهای واضحی برای ارزیابی موفقیت پیاده‌سازی خود توسعه دهید.
پیاده‌سازی پروتکل‌های امنیتی: از ایمن بودن سیستم‌های هوش مصنوعی خود با پیاده‌سازی تدابیر امنیتی قوی برای حفاظت از اطلاعات حساس و مالکیت معنوی اطمینان حاصل کنید. این اقدامات مؤثر به پیشگیری از نقض داده‌ها و حفظ محرمانگی، یکپارچگی و در دسترس‌بودن داده‌ها کمک خواهد کرد.
تأمین پاسخ‌گویی: نقش‌ها و مسئولیت‌ها برای سیستم‌های هوش مصنوعی خود را به‌وضوح تعریف کنید. با تعیین مسئولیت و پاسخ‌گویی در مراحل اولیه، می‌توانید به سرعت به مشکلاتی که در طول توسعه یا استفاده از سیستم‌های هوش مصنوعی به وجود می‌آید، رسیدگی کنید.
نتیجه‌گیری
هوش مصنوعی می‌تواند نحوه عملکرد کسب‌وکارها را تغییر دهد، اما کارایی آن به شدت به پیاده‌سازی مسئولانه بستگی دارد. در شتاب برای پیاده‌سازی آخرین فناوری‌های هوش مصنوعی، برخی سازمان‌ها از ایجاد حاکمیت به منظور دستیابی به پیروزی سریع چشم‌پوشی می‌کنند. این امر آنها را بر روی پایه‌های ناپایدار رها می‌کند، آسیب‌پذیری در برابر ریسک‌ها و مشکلات امنیتی ایجاد می‌کند و مانع بهره‌برداری کامل از ارزش بالقوه هوش مصنوعی می‌شود.
وقت بگذارید تا یک استراتژی حاکمیتی جامع توسعه دهید و چارچوب پایداری برای رشد و موفقیت پایدار سازمان خود ایجاد کنید.
منبع :مقاله COBIT: A Practical Guide for AI Governance
COBIT: یک راهنمای عملی برای حاکمیت هوش مصنوعی