مسیری برای نقشه راه حکمرانی هوش مصنوعی عملی

یادداشت سردبیر: ISACA مجموعه رو به رشدی از دوره های آموزشی هوش مصنوعی، از جمله دوره ای در مورد حاکمیت هوش مصنوعی دارد. مگان مانوال، کارشناس هوش مصنوعی که در دوره حاکمیت هوش مصنوعی: اصول، استراتژی ها و همسویی کسب و کار مشارکت داشته است، اخیراً از وبلاگ ISACA Now بازدید کرد تا دیدگاه خود را در مورد حاکمیت هوش مصنوعی و برخی از اجزای اصلی این دوره به اشتراک بگذارد. مصاحبه با مانوال را در زیر ببینید و در اینجا اطلاعات بیشتری در مورد مجموعه دوره های آموزشی هوش مصنوعی ISACA کسب کنید.

ISACA Now: چه چیزی در مورد حکمرانی هوش مصنوعی بیشتر برای شما جذاب است؟

علاقه من به هوش مصنوعی سال ها پیش، زمانی که شروع به بررسی استفاده از اتوماسیون فرآیندها در امنیت سایبری کردم، آغاز شد. مانند بسیاری از افراد، آنچه با محرک ها و گردش های کاری شروع شد، به فرصت های بی شماری در زمینه هوش مصنوعی مولد و یادگیری ماشینی در اکثر جنبه های زندگی تبدیل شده است. با گسترش استفاده از هوش مصنوعی در سازمان ها، وحشت ناشی از فناوری جدید آغاز شد. اما من، به عنوان یک فرد "خوش‌بین در مواجهه با ریسک" خودخوانده، در عوض شروع به جستجوی همپوشانی بین چارچوب های موجود و تهدیدهای منحصر به فرد ناشی از سیستم های هوش مصنوعی کردم.

در حال حاضر، راهنمایی زیادی برای حکمرانی هوش مصنوعی وجود ندارد. و این همان چیزی است که بیشتر از همه برای من جذاب است - فرصت تعریف آن! این یک دنیای کاملاً جدید است و ما هر روز در مورد احتمالات جدید و تهدیدهای جدید یاد می گیریم. به عنوان یک صنعت، ما این فرصت را داریم که اصول راهنمای آینده سیستم های هوش مصنوعی اخلاقی، قابل اعتماد و امن را بنا کنیم. و این برای من بسیار عالی به نظر می رسد!

ISACA Now: به نظر شما حاکمیت هوش مصنوعی بیشتر با متخصصان حوزه‌هایی مانند حسابرسی، ریسک، حریم خصوصی و امنیت چگونه تلاقی پیدا می‌کند؟

 مهم‌ترین نکته‌ای که باید در مورد حاکمیت هوش مصنوعی به خاطر داشت این است که این یک فرآیند مستقل نیست. برای موفقیت، باید در اکوسیستم بزرگتر امنیت و انطباق سازمان جاسازی شود. به طور خاص، گنجاندن مدیریت ریسک هوش مصنوعی به عنوان بخشی از فرآیندهای توسعه نرم‌افزار، مدیریت پروژه و مدیریت تغییر، تضمین می‌کند که ریسک به طور زودهنگام و مکرر ارزیابی شده و تا سطح قابل قبولی کاهش یابد.

از منظر حریم خصوصی و حاکمیت داده، اطمینان از ردیابی مناسب دارایی، داده و مدل، دیدگاهی جامع از استفاده از هوش مصنوعی ارائه می‌دهد. همچنین، باید اطمینان حاصل کنید که فرآیند مدیریت ریسک با شرکت‌های دیگر (مانند فروشندگان خارجی) هم هماهنگ است، و بدانید کدام فروشندگان از هوش مصنوعی استفاده می‌کنند و چطور امنیت آن را تضمین می‌کنند. علاوه بر این، افزودن کنترل‌های هوش مصنوعی به تقویم حسابرسی داخلی و گنجاندن به‌روزرسانی‌ها به عنوان بخشی از جلسات هیئت مدیره یا جلسات بررسی مدیریت، تضمین می‌کند که همه مطلع می‌مانند و در صورت نیاز، می‌توان به موقع تنظیماتی را در استراتژی حاکمیت هوش مصنوعی ایجاد کرد. خلاصه اینکه، حاکمیت هوش مصنوعی با هر جنبه‌ای از حسابرسی، ریسک، حریم خصوصی و امنیت تلاقی دارد. حاکمیت هوش مصنوعی برای همه شاخه‌های GRC مهم است.

ISACA Now: اگر سازمان‌ها حاکمیت هوش مصنوعی را در اولویت قرار ندهند، عواقب آن چه خواهد بود؟

 شرکت‌هایی که حاکمیت هوش مصنوعی را نمی‌پذیرند، ممکن است برای مدتی بتوانند به کار خود ادامه دهند، اما دیر یا زود شاهد نقض‌های مرتبط با هوش مصنوعی خواهیم بود که به نوبه خود منجر به مقررات اجباری می‌شود. پیش‌بینی من این است که احتمالاً یک سازمان بزرگ توسط یک فروشنده شخص ثالث نقض خواهد شد، مشابه نقض بدنام سیستم HVAC Home Depot.  شفافیت کافی در مورد نحوه استفاده از هوش مصنوعی وجود ندارد و بسیاری از سازمان‌ها ناآگاهانه از طریق فروشندگان خود ریسک هوش مصنوعی را متحمل می‌شوند. اگر سازمانی ارزیابی‌های هوش مصنوعی شخص ثالث (هوش مصنوعی تامین شده از منابع خارجی) را در اولویت قرار ندهد، ممکن است قربانی نقض شخص ثالث شود.

علاوه بر این، سازمان‌ها ممکن است به دلیل عدم اولویت‌دهی به حاکمیت هوش مصنوعی، شروع به از دست دادن تجارت کنند. هر چه بیشتر در مورد هوش مصنوعی یاد می‌گیریم، درک اینکه چه کاری انجام می‌دهد، به چه چیزهایی دسترسی دارد و چگونه ایمن می‌شود، مهم‌تر می‌شود. سازمان‌هایی که این فرآیندها را پیاده‌سازی نمی‌کنند، قادر نخواهند بود استفاده قابل اعتماد از هوش مصنوعی را به مشتریان خود نشان دهند.

ISACA Now: به نظر شما کدام جنبه از دوره جدید ISACA در این زمینه برای فراگیران بسیار ارزشمند خواهد بود؟

 این دوره یک بررسی عمیق در اصول حاکمیت هوش مصنوعی ارائه می‌دهد، از جمله طراحی، توسعه، پیاده‌سازی و نظارت بر سیستم‌های هوش مصنوعی امن و قابل اعتماد. این دوره همچنین مزایا و چالش‌های پیاده‌سازی حاکمیت هوش مصنوعی را بررسی می‌کند و بهترین شیوه‌ها را برای انتقال ریسک هوش مصنوعی به ذینفعان ارائه می‌دهد. اما چیزی که به ویژه برای فراگیران ارزشمند خواهد بود، نقشه راه چهار مرحله‌ای و عملی حاکمیت هوش مصنوعی است. پس از اتمام، آنها ابزارها و تخصص لازم را برای شروع استقرار یک برنامه قوی حاکمیت هوش مصنوعی در سازمان خود خواهند داشت.

ISACA Now: دانش حاکمیت هوش مصنوعی چگونه به افراد کمک می کند تا در شرکت های خود یا نزد کارفرمای آینده متمایز شوند؟

حاکمیت هوش مصنوعی اساساً یک رشته تحصیلی جدید است. اگرچه همپوشانی هایی با اصول GRC موجود وجود دارد، درک تفاوت های ظریف، چالش ها و مزایای خاص حاکمیت هوش مصنوعی، افراد را به عنوان یک متخصص موضوعی هوش مصنوعی متمایز می کند. با توجه به جدید بودن این مفاهیم، ​​یادگیرندگان در خط مقدم حاکمیت هوش مصنوعی خواهند بود و برای شرکت هایی که در مورد استفاده از هوش مصنوعی جدی هستند، بسیار مورد تقاضا خواهند بود. یادگیرندگان به یکی از معدود متخصصان حاکمیت هوش مصنوعی تبدیل می شوند - مهارتی که می توانند آن را به هر نقش یا سازمان آینده ببرند.

منبع: ترجمه ی مصاحبه از  ISACA Now