در نزدیک به دو سال پس از راه‌اندازی ChatGPT، هوش مصنوعی مولد یک چرخه تبلیغاتی فناوری را طی کرده است، از انتظارات عالی که جامعه را تغییر می‌دهد تا ایجاد اصلاحات اخیر در بازار سهام. اما در صنعت امنیت سایبری به طور خاص، هیجان در اطراف است هوش مصنوعی مولد (genAI) هنوز موجه است. ممکن است بیش از آنچه که سرمایه گذاران و تحلیلگران پیش بینی می کردند تا این بخش به طور کامل تغییر کند، طول بکشد.
واضح ترین و جدیدترین نشانه تغییر در هیاهو در این بود کنفرانس کلاه سیاه آمریکا در اوایل آگوست، که در آن هوش مصنوعی مولد نقش بسیار کمی در عرضه محصولات، نمایش‌ها و ایجاد سر و صدای عمومی ایفا کرد. در مقایسه با کنفرانس RSA که فقط چهار ماه قبل از آن با همان فروشندگان برگزار شد، تمرکز Black Hat روی هوش مصنوعی ناچیز بود، که به طور منطقی ناظران بی طرف را به این باور می رساند که صنعت در حال حرکت است یا هوش مصنوعی به یک کالا تبدیل شده است. اما کاملاً اینطور نیست.
منظورم اینجاست. مزیت تحول‌آفرین استفاده از هوش مصنوعی مولد در صنعت امنیت سایبری احتمالاً از چت‌بات‌های عمومی یا لایه‌بندی سریع هوش مصنوعی بر روی مدل‌های پردازش داده حاصل نخواهد شد. اینها بلوک های سازنده موارد استفاده پیشرفته تر و کارآمدتر هستند، اما در حال حاضر، آنها برای صنعت امنیت تخصصی نیستند و در نتیجه موج جدیدی از نتایج امنیتی بهینه را برای مشتریان ایجاد نمی کنند. در عوض، تحول واقعی که هوش مصنوعی برای صنعت امنیت ایجاد می کند، زمانی رخ می دهد که مدل های هوش مصنوعی برای موارد استفاده امنیتی سفارشی و تنظیم شوند.
موارد استفاده از هوش مصنوعی فعلی در امنیت تا حد زیادی به کار می رود مهندسی سریع و بازیابی-افزایش نسل، که یک چارچوب هوش مصنوعی است که اساساً آن را فعال می کند مدل های زبان بزرگ (LLM) برای بهره برداری از منابع داده اضافی خارج از داده های آموزشی خود، ترکیبی از بهترین بخش های هوش مصنوعی تولیدی و بازیابی پایگاه داده. کاربرد این موارد بسته به مورد استفاده و اینکه چگونه پردازش داده های موجود فروشنده از مورد استفاده پشتیبانی می کند بسیار متفاوت است. هی “جادویی” نیستند. این برای سایر برنامه‌هایی که نیاز به داده‌های اختصاصی و تخصص دارند که در اینترنت رایج نیست، مانند تشخیص پزشکی و کارهای قانونی صادق است. به نظر می‌رسد شرکت‌ها خطوط لوله پردازش داده و سیستم‌های دسترسی به داده‌ها را برای بهینه‌سازی موارد استفاده از هوش مصنوعی مولد تنظیم کنند. همچنین، شرکت‌های مولد هوش مصنوعی توسعه مدل‌های تنظیم‌شده ویژه را تشویق می‌کنند، اگرچه باید دید که این کار برای استفاده‌هایی که کیفیت و جزئیات ضروری هستند چقدر خوب عمل می‌کند.
با این حال، چند دلیل وجود دارد که چرا این تخصص زمان می برد تا در صنعت امنیت عملی شود. یکی از دلایل اصلی این است که سفارشی‌سازی این مدل‌ها به افراد زیادی در حین آموزش نیاز دارد که متخصصان موضوع امنیت سایبری و هوش مصنوعی هستند، دو صنعتی که در تلاش برای استخدام استعدادهای کافی هستند. صنعت امنیت سایبری تقریباً چهار میلیون متخصص در سراسر جهان کم است مجمع جهانی اقتصادو رویترز تخمین می زند که در آینده نزدیک شکاف استخدامی 50 درصدی برای موقعیت های مرتبط با هوش مصنوعی وجود خواهد داشت.
بدون وجود متخصصان فراوان، کار دقیق مورد نیاز برای تطبیق مدل‌های هوش مصنوعی برای کار در یک زمینه امنیتی کند می‌شود. هزینه انجام علم داده لازم برای آموزش این مدل‌ها همچنین تعداد سازمان‌هایی را که منابع لازم برای انجام تحقیقات در مورد مدل‌سازی هوش مصنوعی سفارشی را دارند، محدود می‌کند. میلیون‌ها دلار برای تامین قدرت پردازشی که مدل‌های پیشرفته هوش مصنوعی به آن نیاز دارند، نیاز دارد و این پول باید از جایی تامین شود. حتی زمانی که یک سازمان منابع و تیم لازم برای تحقیق در مورد سفارشی سازی هوش مصنوعی را دارد، پیشرفت واقعی یک شبه اتفاق نمی افتد. کشف چگونگی تقویت بهترین مدل‌های هوش مصنوعی به نفع متخصصان و تحلیلگران امنیتی زمان می‌برد و مانند هر ابزار جدید، زمانی که پردازنده‌های زبان طبیعی خاص امنیتی، ربات‌های گفتگو و سایر ادغام‌های به کمک هوش مصنوعی معرفی شوند، منحنی یادگیری وجود خواهد داشت. .
هوش مصنوعی مولد هنوز آماده است تا دنیای امنیت سایبری را به پارادایم جدیدی تغییر دهد، جایی که قابلیت‌های هوش مصنوعی تهاجمی که دشمنان و بازیگران تهدید از آن بهره می‌برند، با مدل‌های هوش مصنوعی ارائه‌دهندگان امنیتی که برای شناسایی و نظارت بر تهدیدها ساخته شده‌اند، رقابت می‌کنند. تحقیق و توسعه لازم برای دامن زدن به این تغییر مدتی بیشتر از آنچه جامعه فناوری عمومی پیش بینی کرده است، طول می کشد.
پست در هوش مصنوعی، صبر یک فضیلت است اول ظاهر شد Unite.AI.
