گفتن آن دقیقاً یک خبر فوری نیست هوش مصنوعی صنعت امنیت سایبری را به طرز چشمگیری تغییر داده است. هم مهاجمان و هم مدافعان به طور یکسان به هوش مصنوعی روی می آورند تا توانایی های خود را ارتقا دهند و هر کدام تلاش می کنند یک قدم جلوتر از دیگری باقی بمانند. این بازی موش و گربه چیز جدیدی نیست – به هر حال، مهاجمان برای دههها سعی در پیشی گرفتن از تیمهای امنیتی دارند – اما ظهور هوش مصنوعی یک عنصر تازه (و اغلب غیرقابل پیشبینی) را به پویایی وارد کرده است. مهاجمان در سرتاسر جهان با خوشحالی دستان خود را به یکدیگر میمالند و از چشمانداز استفاده از این فناوری جدید برای توسعه روشهای حمله نوآورانه و هرگز دیده نشدهاند.
حداقل، این تصور است. اما واقعیت کمی متفاوت است. در حالی که درست است که مهاجمان به طور فزاینده ای از هوش مصنوعی استفاده می کنند، اما بیشتر از آن استفاده می کنند مقیاس و پیچیدگی حملات خود را افزایش دهند، رویکرد خود را به تاکتیک های موجود به جای ایجاد زمینه های جدید اصلاح می کنند. تفکر در اینجا روشن است: چرا زمان و تلاش برای توسعه روشهای حمله فردا صرف میشود، در حالی که مدافعان از قبل برای متوقف کردن روشهای امروز تلاش میکنند؟ خوشبختانه، تیمهای امنیتی مدرن از قابلیتهای هوش مصنوعی خود استفاده میکنند – که بسیاری از آنها به شناسایی بدافزارها، تلاشهای فیشینگ و دیگر تاکتیکهای حمله رایج با سرعت و دقت بیشتر کمک میکنند. همانطور که “مسابقه تسلیحاتی هوش مصنوعی” بین مهاجمان و مدافعان ادامه دارد، برای تیم های امنیتی مهم است که بفهمند دشمنان چگونه واقعاً فناوری را به کار می گیرند – و اطمینان حاصل کنند که تلاش های خود در مکان درست متمرکز شده است.
چگونه مهاجمان از هوش مصنوعی استفاده می کنند
ایده استفاده از هوش مصنوعی نیمه مستقل برای هک کردن روشهای دفاعی سازمان، ایدهای ترسناک است، اما (در حال حاضر) همچنان در قلمرو رمانهای ویلیام گیبسون و سایر داستانهای علمی تخیلی باقی مانده است. درست است که هوش مصنوعی در چند سال گذشته با سرعتی باورنکردنی پیشرفت کرده است، اما ما هنوز با این نوع از آن فاصله داریم. هوش عمومی مصنوعی (AGI) قادر به تقلید کامل از الگوهای فکری و رفتارهای انسان است. این بدان معنا نیست که هوش مصنوعی امروزی چشمگیر نیست – قطعاً اینطور است. اما ابزارهای مولد هوش مصنوعی و مدل های زبان بزرگ (LLM) در ترکیب کردن اطلاعات از مواد موجود و ایجاد تغییرات کوچک و تکراری مؤثرتر هستند. نمی تواند به تنهایی چیزی کاملاً جدید ایجاد کند – اما اشتباه نکنید، توانایی ترکیب و تکرار فوق العاده مفید است.
در عمل، این بدان معناست که به جای توسعه روشهای جدید حمله، دشمنان میتوانند روشهای فعلی خود را ارتقا دهند. با استفاده از هوش مصنوعی، یک مهاجم ممکن است بتواند به جای هزاران ایمیل، میلیونها ایمیل فیشینگ ارسال کند. آنها همچنین می توانند از یک LLM برای ایجاد یک پیام قانع کننده تر استفاده کنند و گیرندگان بیشتری را فریب دهند تا روی یک پیوند مخرب کلیک کنند یا یک فایل مملو از بدافزار را دانلود کنند. تاکتیکهایی مانند فیشینگ عملاً یک بازی اعداد هستند: اکثریت قریب به اتفاق مردم درگیر ایمیلهای فیشینگ نمیشوند، اما اگر میلیونها نفر آن را دریافت کنند، حتی یک درصد موفقیت میتواند هزاران قربانی جدید داشته باشد. اگر LLM ها بتوانند آن 1% میزان موفقیت را به 2% یا بیشتر برسانند، کلاهبرداران می توانند به طور موثری اثربخشی حملات خود را بدون هیچ تلاشی دو برابر کنند. همین امر در مورد بدافزار نیز صدق می کند: اگر ترفندهای کوچک در کد بدافزار بتواند به طور مؤثری آن را از ابزارهای شناسایی پنهان کند، مهاجمان می توانند مسافت پیموده شده بیشتری را از یک برنامه بدافزار فردی قبل از اینکه نیاز به حرکت به سمت چیز جدیدی داشته باشند، بدست آورند.
عنصر دیگر در بازی در اینجا سرعت است. از آنجایی که حملات مبتنی بر هوش مصنوعی مشمول محدودیتهای انسانی نیستند، اغلب میتوانند یک توالی حمله کامل را با سرعتی بسیار سریعتر از یک اپراتور انسانی انجام دهند. این بدان معناست که یک مهاجم به طور بالقوه می تواند به شبکه نفوذ کند و قبل از اینکه تیم امنیتی هشداری را دریافت کند، به جواهرات تاج قربانی – حساس ترین یا ارزشمندترین داده های آنها – برسد، چه رسد به اینکه به آن پاسخ دهد. اگر مهاجمان میتوانند سریعتر حرکت کنند، نیازی به احتیاط ندارند – به این معنی که میتوانند بدون توقف از فعالیتهای پر سر و صداتر و مخربتر فرار کنند. آنها لزوماً در اینجا کار جدیدی انجام نمیدهند، اما با پیشروی سریعتر حملات خود، میتوانند از دفاع شبکهای به شکل بالقوه تغییر دهنده بازی پیشی بگیرند.
این کلید درک چگونگی استفاده مهاجمان از هوش مصنوعی است. کلاهبرداریهای مهندسی اجتماعی و برنامههای بدافزار قبلاً بردارهای حمله موفقی هستند – اما اکنون دشمنان میتوانند آنها را حتی مؤثرتر کنند، آنها را سریعتر مستقر کنند و در مقیاسی حتی بیشتر عمل کنند. سازمانها به جای مقابله با دهها تلاش در روز، ممکن است با صدها، هزاران یا حتی دهها هزار حمله سریع مقابله کنند. و اگر راهحلها یا فرآیندهایی برای شناسایی سریع آن حملات، شناسایی تهدیدات واقعی و ملموس و بهطور موثر اصلاح آنها نداشته باشند، خود را بهطور خطرناکی در معرض حمله قرار میدهند. سازمانها به جای تعجب از اینکه چگونه مهاجمان ممکن است از هوش مصنوعی در آینده استفاده کنند، باید از راهحلهای هوش مصنوعی خود با هدف مدیریت روشهای حمله موجود در مقیاس بزرگتر استفاده کنند.
تبدیل هوش مصنوعی به مزیت تیم های امنیتی
کارشناسان امنیتی در هر سطحی از کسب و کار و دولت به دنبال راه هایی برای استفاده از هوش مصنوعی برای اهداف دفاعی هستند. در ماه اوت، آژانس پروژه های تحقیقاتی پیشرفته دفاعی ایالات متحده (دارپا) نامزدهای نهایی را اعلام کرد برای چالش سایبری هوش مصنوعی اخیر خود (AIxCC)، که به تیم های تحقیقاتی امنیتی که برای آموزش LLM ها برای شناسایی و رفع آسیب پذیری های مبتنی بر کد کار می کنند، جوایزی اهدا می کند. این چالش توسط ارائهدهندگان بزرگ هوش مصنوعی، از جمله گوگل، مایکروسافت و OpenAI پشتیبانی میشود، که همگی از این تلاشها برای تقویت امنیت مبتنی بر هوش مصنوعی پشتیبانی فنی و مالی ارائه میکنند. البته، دارپا تنها یک مثال است – به سختی میتوانید چوبی را در سیلیکون ولی تکان دهید بدون اینکه به دوازده بنیانگذار استارتآپ ضربه بزنید که مشتاق هستند درباره راهحلهای امنیتی پیشرفته جدید مبتنی بر هوش مصنوعی به شما بگویند. کافی است بگوییم، یافتن راههای جدید برای استفاده از هوش مصنوعی برای اهداف دفاعی، اولویت بالایی برای سازمانها در هر نوع و اندازه است.
اما مانند مهاجمان، تیمهای امنیتی اغلب زمانی بیشترین موفقیت را کسب میکنند که از هوش مصنوعی برای تقویت قابلیتهای موجود خود استفاده میکنند. با وقوع حملات در مقیاس روزافزون، تیمهای امنیتی اغلب از نظر زمان و منابع ضعیف هستند و شناسایی، بررسی و اصلاح هر هشدار امنیتی که ظاهر میشود را دشوار میسازد. به سادگی زمان آن نیست. راه حل های هوش مصنوعی با ارائه قابلیت های تشخیص و پاسخ خودکار، نقش مهمی در کاهش این چالش ایفا می کنند. اگر هوش مصنوعی در یک چیز خوب باشد، شناسایی الگوها است – و این بدان معناست که ابزارهای هوش مصنوعی در تشخیص رفتار غیرعادی بسیار خوب هستند، به خصوص اگر آن رفتار با الگوهای حمله شناخته شده مطابقت داشته باشد. از آنجایی که هوش مصنوعی میتواند حجم وسیعی از دادهها را بسیار سریعتر از انسانها بررسی کند، این به تیمهای امنیتی اجازه میدهد تا عملیات خود را به شکل قابل توجهی ارتقا دهند. در بسیاری از موارد، این راهحلها حتی میتوانند فرآیندهای اصلاحی اولیه را خودکار کنند و حملات سطح پایین را بدون نیاز به مداخله انسانی مورد مناقشه قرار دهند. همچنین میتوان از آنها برای خودکارسازی فرآیند اعتبارسنجی امنیتی، پیمایش مداوم و حرکت در اطراف سیستمهای دفاعی شبکه استفاده کرد تا اطمینان حاصل شود که طبق برنامه عمل میکنند.
همچنین مهم است که توجه داشته باشید که هوش مصنوعی تنها به تیمهای امنیتی اجازه نمیدهد تا فعالیتهای حمله احتمالی را سریعتر شناسایی کنند، بلکه دقت آنها را نیز به طرز چشمگیری بهبود میبخشد. تیمهای امنیتی میتوانند به جای تعقیب آلارمهای کاذب، مطمئن باشند که وقتی یک راهحل هوش مصنوعی به آنها در مورد حمله احتمالی هشدار میدهد، ارزش توجه فوری آنها را دارد. این عنصری از هوش مصنوعی است که تقریباً به اندازه کافی در مورد آن صحبت نمی شود – در حالی که بیشتر بحث ها حول محور هوش مصنوعی “جایگزین” انسان ها و گرفتن مشاغل آنهاست، واقعیت این است که راه حل های هوش مصنوعی به انسان ها امکان می دهد وظایف خود را بهتر و کارآمدتر انجام دهند. ، ضمن اینکه فرسودگی شغلی ناشی از انجام کارهای خسته کننده و تکراری را نیز کاهش می دهد. راهحلهای هوش مصنوعی به دور از تأثیر منفی بر اپراتورهای انسانی، بسیاری از «مشغلهکاری» درک شده مرتبط با موقعیتهای امنیتی را مدیریت میکنند و به انسان این امکان را میدهند تا روی کارهای جالبتر و مهمتر تمرکز کنند. در زمانی که فرسودگی شغلی در بالاترین حد خود قرار دارد و بسیاری از مشاغل برای جذب استعدادهای امنیتی جدید تلاش می کنند، بهبود کیفیت زندگی و رضایت شغلی می تواند تأثیر مثبت زیادی داشته باشد.
مزیت واقعی تیم های امنیتی در اینجا نهفته است. راهحلهای هوش مصنوعی نه تنها میتوانند به آنها کمک کنند تا عملیات خود را برای مبارزه مؤثر با مهاجمان که از ابزارهای هوش مصنوعی خودشان استفاده میکنند، گسترش دهند، بلکه میتوانند حرفهایهای امنیتی را از نقشهایشان راضیتر و راضیتر نگه دارند. این یک راه حل برد-برد نادر برای همه افراد درگیر است، و باید به کسب و کارهای امروزی کمک کند تا بدانند که زمان سرمایه گذاری در راه حل های امنیتی مبتنی بر هوش مصنوعی اکنون فرا رسیده است.
مسابقه تسلیحاتی هوش مصنوعی تازه شروع شده است
رقابت برای اتخاذ راهحلهای هوش مصنوعی ادامه دارد، هم مهاجمان و هم مدافعان راههای مختلفی برای استفاده از این فناوری به نفع خود پیدا میکنند. از آنجایی که مهاجمان از هوش مصنوعی برای افزایش سرعت، مقیاس و پیچیدگی حملات خود استفاده میکنند، تیمهای امنیتی باید با استفاده از ابزارهای هوش مصنوعی خود با آتش مبارزه کنند تا سرعت و دقت قابلیتهای شناسایی و اصلاح خود را بهبود بخشند. خوشبختانه، راهحلهای هوش مصنوعی اطلاعات حیاتی را در اختیار تیمهای امنیتی قرار میدهند و به آنها اجازه میدهند تا کارایی راهحلهای خود را بهتر آزمایش و ارزیابی کنند و در عین حال زمان و منابع را برای کارهای حیاتیتر مأموریت آزاد کنند. اشتباه نکنید، مسابقه تسلیحاتی هوش مصنوعی تازه شروع شده است – اما این واقعیت که متخصصان امنیتی در حال حاضر از هوش مصنوعی استفاده می کنند تا یک قدم جلوتر از مهاجمان قرار بگیرند، نشانه بسیار خوبی است.
