هوش مصنوعی به طور قابل توجهی بر عملکرد هر صنعت تأثیر گذاشته و نتایج بهبود یافته ، افزایش بهره وری و نتایج خارق العاده را ارائه می دهد. امروز سازمان ها برای به دست آوردن یک رقابت رقابتی ، تصمیم گیری آگاهانه و تجزیه و تحلیل و استراتژی تلاش های تجاری خود به مدل های هوش مصنوعی متکی هستند. از مدیریت محصول گرفته تا فروش ، سازمان ها در هر بخش مدل های هوش مصنوعی را مستقر می کنند و آنها را برای تحقق اهداف و اهداف خاص متناسب می کنند.
هوش مصنوعی دیگر فقط یک ابزار تکمیلی در عملیات تجاری نیست. این بخشی جدایی ناپذیر از استراتژی و زیرساخت های یک سازمان است. با این حال ، به عنوان فرزندخواندگی AI رشد می کند، یک چالش جدید پدیدار می شود: چگونه می توانیم نهادهای هوش مصنوعی را در چارچوب هویت یک سازمان مدیریت کنیم؟
هوش مصنوعی به عنوان هویت سازمانی مجزا
ایده مدل های هوش مصنوعی که دارای هویت منحصر به فرد در یک سازمان هستند ، از یک مفهوم نظری به یک ضرورت تبدیل شده است. سازمان ها شروع به اختصاص نقش ها و مسئولیت های خاص به مدل های هوش مصنوعی می کنند و به آنها اجازه می دهند همانطور که برای کارمندان انسانی انجام می دهند. این مدل ها می توانند به داده های حساس دسترسی پیدا کنند ، انجام وظایف، و تصمیم گیری به طور خودمختار.
با توجه به اینکه مدل های هوش مصنوعی به عنوان هویت متمایز سوار می شوند ، آنها در اصل به همتایان دیجیتالی کارمندان تبدیل می شوند. درست همانطور که کارمندان کنترل دسترسی مبتنی بر نقش دارند ، به مدل های هوش مصنوعی می توان مجوزهای تعامل با سیستم های مختلف را اختصاص داد. با این حال ، این گسترش نقش های هوش مصنوعی همچنین سطح حمله را افزایش می دهد و دسته جدیدی از تهدیدهای امنیتی را معرفی می کند.
خطرات هویت هوش مصنوعی خودمختار در سازمان ها
در حالی که هویت های هوش مصنوعی از سازمان ها بهره مند شده اند ، آنها همچنین برخی از چالش ها را ایجاد می کنند ، از جمله:
- مسمومیت با مدل AI: بازیگران تهدیدآمیز می توانند مدل های AI را دستکاری کنید با تزریق داده های مغرضانه یا تصادفی ، باعث می شود این مدل ها نتایج نادرست تولید کنند. این تأثیر قابل توجهی در برنامه های مالی ، امنیت و مراقبت های بهداشتی دارد.
- تهدیدهای خودی از هوش مصنوعی: اگر یک سیستم هوش مصنوعی به خطر بیفتد ، می تواند به عنوان یک تهدید خودی ، یا به دلیل آسیب پذیری های غیر عمدی یا دستکاری مخالف عمل کند. بر خلاف تهدیدهای سنتی خودی مربوط به کارمندان انسانی ، تهدیدات خودی مستقر در هوش مصنوعی سخت تر است ، زیرا ممکن است در محدوده مجوزهای تعیین شده خود عمل کنند.
- هوش مصنوعی در حال توسعه “شخصیت های” منحصر به فرد: مدل های هوش مصنوعی ، آموزش داده شده در مجموعه داده ها و چارچوب های مختلف ، می تواند تکامل یابد به روشهای غیرقابل پیش بینی در حالی که آنها فاقد آگاهی واقعی هستند ، الگوهای تصمیم گیری آنها ممکن است از رفتارهای مورد انتظار دور شود. به عنوان مثال ، یک مدل امنیتی هوش مصنوعی می تواند در هنگام قرار گرفتن در معرض داده های آموزش گمراه کننده ، به طور نادرست پرچم گذاری معاملات قانونی را به عنوان کلاهبرداری یا برعکس شروع کند.
- مصالحه هوش مصنوعی منجر به سرقت هویت: درست همانطور که اعتبارنامه های سرقت شده می توانند دسترسی غیرمجاز را اعطا کنند ، هوش مصنوعی ربوده شده از هویت می توان برای دور زدن اقدامات امنیتی استفاده کرد. هنگامی که یک سیستم هوش مصنوعی با دسترسی ممتاز به خطر می افتد ، یک مهاجم ابزاری فوق العاده قدرتمند را به دست می آورد که می تواند تحت اعتبار قانونی فعالیت کند.
مدیریت هویت های هوش مصنوعی: استفاده از اصول مدیریت هویت انسانی
برای کاهش این خطرات ، سازمانها باید در مورد نحوه مدیریت مدل های هوش مصنوعی در چارچوب هویت و مدیریت دسترسی ، تجدید نظر کنند. استراتژی های زیر می تواند کمک کند:
- مدیریت هویت هوش مصنوعی مبتنی بر نقش: با ایجاد کنترل دقیق دسترسی ، با مدل های هوش مصنوعی مانند کارمندان رفتار کنید و اطمینان حاصل کنید که آنها فقط مجوزهای لازم برای انجام کارهای خاص را دارند.
- نظارت رفتاری: ابزارهای نظارت بر AI را برای ردیابی فعالیت های هوش مصنوعی پیاده سازی کنید. اگر یک مدل AI نمایشگاهی را در خارج از پارامترهای مورد انتظار خود شروع کند ، باید هشدارها ایجاد شود.
- معماری اعتماد صفر برای هوش مصنوعی: درست همانطور که کاربران انسانی در هر مرحله به تأیید اعتبار نیاز دارند ، مدل های هوش مصنوعی باید به طور مداوم تأیید شوند تا اطمینان حاصل شود که آنها در محدوده مجاز خود فعالیت می کنند.
- ابطال و حسابرسی هویت هوش مصنوعی: سازمانها باید رویه هایی را برای ابطال یا اصلاح مجوزهای دسترسی به هوش مصنوعی به صورت پویا ، به ویژه در پاسخ به رفتار مشکوک ایجاد کنند.
تجزیه و تحلیل اثر کبرا احتمالی
بعضی اوقات ، راه حل یک مشکل فقط مسئله را بدتر می کند ، وضعیتی که از لحاظ تاریخی به عنوان اثر کبرا توصیف شده است – همچنین یک انگیزه منحرف خوانده می شود. در این حالت ، در حالی که ورود به هویت هوش مصنوعی در سیستم دایرکتوری به چالش مدیریت هویت های هوش مصنوعی می پردازد ، ممکن است منجر به یادگیری مدل های هوش مصنوعی در یادگیری سیستم های دایرکتوری و عملکرد آنها شود.
در دراز مدت ، مدل های هوش مصنوعی می توانند در حالی که در برابر حملات یا حتی داده های تبعیض آمیز در پاسخ به سوابق مخرب آسیب پذیر هستند ، رفتار غیر بدخواهانه ای داشته باشند. این یک اثر کبرا ایجاد می کند ، جایی که تلاش برای برقراری کنترل بر روی هویت های هوش مصنوعی در عوض ، آنها را قادر می سازد کنترل های دایرکتوری را بیاموزند و در نهایت به شرایطی منجر می شوند که این هویت ها غیرقابل کنترل شوند.
به عنوان مثال ، یک مدل هوش مصنوعی که در SOC خودمختار یک سازمان ادغام شده است ، می تواند به طور بالقوه الگوهای دسترسی را تجزیه و تحلیل کرده و امتیازات مورد نیاز برای دسترسی به منابع مهم را استنباط کند. اگر اقدامات امنیتی مناسب وجود نداشته باشد ، چنین سیستمی ممکن است بتواند سیاست های گروهی را اصلاح کند یا از حساب های خفته بهره برداری کند تا کنترل غیرمجاز بر روی سیستم ها به دست بیاورد.
متعادل کردن هوش و کنترل
در نهایت ، تعیین چگونگی تأثیر پذیرش هوش مصنوعی بر وضعیت امنیتی کلی یک سازمان تأثیر خواهد گذاشت. این عدم قطعیت در درجه اول از مقیاس که در آن مدل های AI می توانند بسته به داده هایی که در آن قرار می گیرند ، می توانند یاد بگیرند ، سازگار شوند و عمل کنند. در اصل ، یک مدل به آنچه مصرف می کند تبدیل می شود.
در حالی که یادگیری تحت نظارت امکان آموزش کنترل شده و هدایت شده را فراهم می کند ، می تواند توانایی مدل در سازگاری با محیط های پویا را محدود کند ، و به طور بالقوه آن را سفت و سخت یا منسوخ در زمینه های عملیاتی در حال تحول می کند.
برعکس ، یادگیری بدون نظارت این مدل استقلال بیشتری را اعطا می کند ، و این احتمال را افزایش می دهد که مجموعه داده های متنوعی را کشف می کند ، به طور بالقوه شامل مواردی که خارج از محدوده مورد نظر آن است. این می تواند بر رفتار آن به روش های ناخواسته یا ناامن تأثیر بگذارد.
بنابراین ، چالش تعادل این پارادوکس است: محدود کردن یک سیستم ذاتاً بدون محدودیت. هدف این است که یک هویت هوش مصنوعی را طراحی کنید که کاربردی و تطبیقی باشد بدون اینکه کاملاً بدون محدودیت ، توانمند باشد ، اما بدون بررسی نیست.
آینده: هوش مصنوعی با استقلال محدود؟
با توجه به اعتماد به نفس فزاینده به هوش مصنوعی ، سازمان ها باید محدودیت هایی را برای استقلال هوش مصنوعی اعمال کنند. در حالی که استقلال کامل برای موجودات هوش مصنوعی در آینده نزدیک بعید است ، استقلال کنترل شده ، جایی که مدل های هوش مصنوعی در یک محدوده از پیش تعریف شده کار می کنند ، ممکن است استاندارد شود. این رویکرد تضمین می کند که هوش مصنوعی در حالی که خطرات امنیتی پیش بینی نشده را به حداقل می رساند ، کارآیی را افزایش می دهد.
تعجب آور نیست که ببینیم مقامات نظارتی استانداردهای خاص انطباق را در مورد نحوه استقرار سازمان ها از مدل های هوش مصنوعی تعیین می کنند. تمرکز اصلی و باید بر حریم خصوصی داده ها ، به ویژه برای سازمانهایی که اطلاعات قابل شناسایی و حساس و حساس را دارند (PII) اداره می کنند.
گرچه ممکن است این سناریوها سوداگرانه به نظر برسند ، اما به دور از غیرممکن نیستند. سازمانها باید قبل از اینکه هوش مصنوعی هم یک دارایی و هم یک مسئولیت در اکوسیستم های دیجیتال خود باشد ، این چالش ها را برطرف کنند. همانطور که هوش مصنوعی به یک هویت عملیاتی تبدیل می شود ، تضمین آن باید اولویت اصلی باشد.
