هیرندو، اولین راه اندازی اختصاص داده شده به Unlaring Machine ، 8 میلیون دلار بودجه بذر را برای پرداختن به برخی از چالش های مهم در هوش مصنوعی جمع آوری کرده است: توهم ، تعصب و آسیب پذیری های داده تعبیه شده. دور توسط ماوریک اسرائیل را سرمایه گذاری می کند با مشارکت از فرازبا سرمایه اطلاعاتی آلفابا Tachles VCبا ai.fundوت مرکز فنی را جمع کنید و بازی کنیدبشر
فراموش کردن AI: وعده عدم وجود دستگاه
بر خلاف ابزارهای سنتی هوش مصنوعی که بر پالایش یا فیلتر کردن خروجی های هوش مصنوعی تمرکز دارند ، نوآوری اصلی Hirundo است فرسوده ماشین– تکنیکی که به مدل های هوش مصنوعی اجازه می دهد دانش یا رفتارهای خاص را پس از آموزش آنها فراموش کنند. این رویکرد ، شرکتها را قادر می سازد تا توهم ، تعصب ، داده های شخصی یا اختصاصی و آسیب پذیری های مخالف را از مدل های AI مستقر و بدون بازیابی آنها از ابتدا حذف کنند. بازآفرینی مدل های در مقیاس بزرگ می تواند هفته ها و میلیون ها دلار طول بکشد. هیروندو جایگزین بسیار کارآمدتری را ارائه می دهد.
هیروندو این روند را به جراحی مغز و اعصاب: این شرکت دقیقاً مشخص می کند که در پارامترهای یک مدل ، خروجی های ناخواسته سرچشمه می گیرند و دقیقاً آنها را از بین می برد ، همه در حالی که عملکرد را حفظ می کنند. این تکنیک پیشگام سازمانها را قادر می سازد تا مدل ها را در محیط های تولید اصلاح کنند و هوش مصنوعی را با اعتماد به نفس بسیار بیشتر مستقر کنند.
چرا توهمات هوش مصنوعی بسیار خطرناک هستند
توهم AI به تمایل یک مدل برای تولید اطلاعات نادرست یا گمراه کننده که به نظر می رسد قابل قبول یا حتی واقعی است ، مراجعه کنید. این توهمات به ویژه در محیط های سازمانی مشکل ساز است ، جایی که تصمیمات مبتنی بر اطلاعات نادرست می تواند منجر شود قرار گرفتن در معرض حقوقی، خطاهای عملیاتی و خسارت شهرت. مطالعات نشان داده است که 58 تا 82 ٪ از “حقایق” که توسط هوش مصنوعی برای سؤالات قانونی ایجاد شده است حاوی نوعی توهم بود.
علیرغم تلاش برای به حداقل رساندن توهم با استفاده از نگهبان ها یا تنظیم دقیق ، این روش ها اغلب به جای از بین بردن آنها ، مشکلات را ماسک می کنند. نگهبان ها مانند فیلترها عمل می کنند ، و تنظیم دقیق معمولاً نمی تواند علت اصلی را از بین ببرد-خصوصاً وقتی توهم در عمق وزنهای آموخته شده مدل پخته می شود. هیروندو با حذف رفتار یا دانش از خود مدل فراتر می رود.
یک سکوی مقیاس پذیر برای هر پشته AI
پلت فرم Hirundo برای انعطاف پذیری و استقرار درجه سازمانی ساخته شده است. این سیستم با هر دو سیستم تولیدی و غیر نسلی در طیف گسترده ای از انواع داده ها-زبان طبیعی ، بینایی ، رادار ، لیدار ، جدوله ، گفتار و بارها ادغام می شود. این پلتفرم به طور خودکار موارد نادرست ، دور و ابهامات در داده های آموزش را تشخیص می دهد. سپس به کاربران این امکان را می دهد تا از خروجی های معیوب خاص اشکال زد و آنها را به داده های آموزش مشکل ساز یا رفتارهای آموخته شده ردیابی کنند ، که می توانند فوراً از بین بروند.
این همه به دست آمده است بدون تغییر گردش کاربشر سیستم معتبر SOC-2 Hirundo را می توان از طریق SaaS ، Cloud Private (VPC) یا حتی در محل های هوا با هوا اجرا کرد و آن را برای محیط های حساس مانند امور مالی ، مراقبت های بهداشتی و دفاع مناسب می کند.
تأثیر نشان داده شده در مدل ها
این شرکت در حال حاضر پیشرفت های عملکرد خوبی را در مدلهای بزرگ زبان محبوب (LLMS) نشان داده است. در آزمایشات با استفاده از Llama و Deepseek ، Hirundo به کاهش 55 ٪ در توهم ، کاهش 70 ٪ در تعصب و کاهش 85 ٪ در حملات تزریق سریع موفقیت آمیز دست یافت. این نتایج با استفاده از معیارهای مستقل مانند Halueval ، Purplellama و معیار تعصب پرسش و پاسخ تأیید شده است.
در حالی که راه حل های فعلی با مدل های منبع باز مانند Llama ، Mistral و Gemma خوب کار می کند ، Hirundo به طور فعال پشتیبانی از مدل های دروازه مانند Chatgpt و Claude را گسترش می دهد. این امر باعث می شود فناوری آنها در طیف کاملی از LLM های سازمانی کاربرد داشته باشد.
بنیانگذاران با عمق تحصیلی و صنعت
هیروندو در سال 2023 توسط سه نفر از متخصصان در تقاطع آکادمی ها و شرکت های هوش مصنوعی تأسیس شد. مدیرعامل بن لوریا یک محقق رودس و همکار سابق بازدید کننده در آکسفورد است ، که پیش از این راه اندازی FinTech Workly را تأسیس کرده و Scholarsil را تأسیس کرده است ، یک غیرانتفاعی که از آموزش عالی پشتیبانی می کند. مایکل لیبوویچ، CTO Hirundo ، محقق سابق فارغ التحصیل در Technion و افسر R&D برنده جایزه در OFEK324 است. پروفسور اودد شمولی، دانشمند ارشد این شرکت ، معاون سابق علوم کامپیوتر در Technion است و در IBM ، HP ، AT&T و موارد دیگر موقعیت های تحقیقاتی داشته است.
تجربه جمعی آنها شامل تحقیقات بنیادی هوش مصنوعی ، استقرار در دنیای واقعی و مدیریت ایمن داده ها است-آنها را به طور منحصر به فرد واجد شرایط برای رسیدگی به بحران قابلیت اطمینان صنعت AI.
حمایت از سرمایه گذار برای آینده ای قابل اعتماد هوش مصنوعی
سرمایه گذاران در این دور با دیدگاه هیروندو در مورد ساخت AI قابل اعتماد ، سازمانی آماده هستند. یارون کارنی، بنیانگذار Maverick Ventures اسرائیل ، به نیاز فوری به سکویی اشاره کرد که می تواند قبل از اینکه باعث آسیب در دنیای واقعی شود ، اطلاعات توهم یا مغرضانه را از بین ببرد. وی گفت: “بدون از بین بردن توهم یا هوش مغذی از هوش مصنوعی ، ما در نهایت تحریف نتایج و تشویق بی اعتمادی را به دست می آوریم.” “Hirundo نوعی از تریاژهای AI را ارائه می دهد – به غیرقانونی یا داده های ساخته شده بر روی منابع تبعیض آمیز و تغییر کامل امکانات هوش مصنوعی.”
شریک مدیریت Superseed ، دیوانه جنسن، این احساسات را تکرار کرد: “ما در شرکتهای استثنایی هوش مصنوعی سرمایه گذاری می کنیم که عمودی صنعت را تغییر می دهند ، اما این تحول فقط به همان اندازه قدرتمند است که خود مدل ها قابل اعتماد هستند. رویکرد Hirundo به آستر زدن به دستگاه ، به شکاف اساسی در چرخه توسعه AI می پردازد.”
پرداختن به یک چالش رو به رشد در استقرار هوش مصنوعی
از آنجا که سیستم های هوش مصنوعی به طور فزاینده ای در زیرساخت های بحرانی ادغام می شوند ، نگرانی در مورد توهماتبا تعصب، و داده های حساس تعبیه شده نادیده گرفتن سخت تر می شوند. این مسائل خطرات قابل توجهی را در محیط های پر سر و صدا ، از امور مالی گرفته تا مراقبت های بهداشتی و دفاع ایجاد می کند.
آاری بودن ماشین به عنوان ابزاری مهم در پاسخ صنعت هوش مصنوعی به افزایش نگرانی های مربوط به قابلیت اطمینان و ایمنی مدل در حال ظهور است. از آنجا که توهم ، تعصب تعبیه شده و قرار گرفتن در معرض داده های حساس به طور فزاینده ای اعتماد به سیستم های AI مستقر را تضعیف می کند ، فرآورده کردن یک روش مستقیم برای کاهش این خطرات ارائه می دهد –پس از یک مدل آموزش دیده و در حال استفاده است.
به جای تکیه بر بازآموزی یا رفع سطح سطح مانند فیلتر ، آاری بودن دستگاه ، حذف هدفمند رفتارهای مشکل ساز و داده های مدل های موجود در تولید را امکان پذیر می کند. این رویکرد در بین شرکت ها و سازمان های دولتی که به دنبال راه حل های مقیاس پذیر و سازگار برای برنامه های پر سر و صدا هستند ، در حال افزایش است.
