فیلیپ بور رئیس محصول در Lumai است ، با بیش از 25 سال تجربه در مدیریت جهانی محصول ، نقش های رهبری و رهبری در شرکت های پیشرو در نیمه هادی و فناوری و سابقه اثبات شده در ساخت و مقیاس بندی محصولات و خدمات.
لومای یک شرکت فناوری عمیق مبتنی بر انگلستان است که پردازنده های محاسبات نوری سه بعدی را برای تسریع بار کاری هوش مصنوعی ایجاد می کند. با انجام ضرب های بردار ماتریس با استفاده از پرتوهای نور در سه بعد ، فناوری آنها تا 50 برابر عملکرد و 90 ٪ مصرف انرژی کمتر در مقایسه با شتاب دهنده های سنتی مبتنی بر سیلیکون را ارائه می دهد. این امر باعث می شود که به ویژه برای کارهای استنباط هوش مصنوعی ، از جمله مدل های بزرگ زبان ، مناسب باشد ، در حالی که به طور قابل توجهی هزینه های انرژی و تأثیرات زیست محیطی را کاهش می دهد.
چه چیزی الهام بخش تأسیس لومای بود ، و چگونه این ایده از تحقیقات دانشگاه آکسفورد به یک سرمایه گذاری تجاری تکامل یافت؟
جرقه اولیه هنگامی که به یکی از بنیانگذاران لومای ، دکتر شانکسین گوئو ، به یک بورس پژوهشی 1851 در دانشگاه آکسفورد اعطا شد ، مشتعل شد. مصاحبه كنندگان پتانسیل محاسبات نوری را درک كردند و از آنها پرسیدند كه آیا Xianxin حق ثبت اختراع را در نظر می گیرد و در صورت موفقیت آمیز تحقیقات وی ، شرکتی را می چرخاند. این امر باعث شلیک ذهن خلاق Xianxin شد و هنگامی که او در کنار یکی از بنیانگذاران دیگر لومای دکتر جیمز اسپال ثابت کرده بود که استفاده از نور برای انجام محاسبات در قلب AI می تواند عملکرد AI را به طرز چشمگیری افزایش دهد و انرژی را کاهش دهد ، مرحله تنظیم شد. آنها می دانستند که سخت افزار AI فقط سیلیکون موجود (و هنوز هم است) در تلاش است تا عملکرد را افزایش دهد بدون اینکه قدرت و هزینه قابل توجهی را افزایش دهد و از این رو ، اگر بتوانند این مشکل را با استفاده از محاسبات نوری حل کنند ، می توانند محصولی را که مشتریان می خواستند ایجاد کنند. آنها این ایده را به برخی از VC ها که از آنها حمایت می کردند برای تشکیل لومای گرفتند. لومای اخیراً دور دوم بودجه خود را بسته و بیش از 10 میلیون دلار جمع آوری کرده و سرمایه گذاران دیگری را نیز به وجود آورد که معتقدند محاسبات نوری می تواند به مقیاس ادامه داده و افزایش تقاضای عملکرد هوش مصنوعی را بدون افزایش قدرت برآورده کند.
شما حرفه ای چشمگیر در بازو ، نیمه هادی ایندی و موارد دیگر داشته اید – چه چیزی شما را به پیوستن به لومای در این مرحله جلب کرده است؟
پاسخ کوتاه تیم و فناوری است. لومای دارای تیمی چشمگیر از متخصصان نوری ، یادگیری ماشین و مرکز داده است و تجربه ای از امثال متا ، اینتل ، آلتر ، ماکسلر ، Seagate و IBM را تجربه می کند (همراه با تجربه شخصی من در بازو ، ایندی ، گرافیک منتور و موتورولا). من می دانستم که تیمی از افراد قابل توجه با توجه به حل چالش کاهش هزینه استنباط هوش مصنوعی می توانند کارهای شگفت انگیز انجام دهند.
من قاطعانه معتقدم که آینده هوش مصنوعی نیاز به پیشرفت های جدید و خلاقانه در محاسبات دارد. وعده توانایی ارائه 50 برابر عملکرد محاسبات AI و همچنین کاهش هزینه استنباط هوش مصنوعی به 1/10 در مقایسه با راه حل های امروز ، فرصتی برای از دست دادن خیلی خوب بود.
برخی از چالش های اولیه فنی یا شغلی که تیم بنیانگذار شما در مقیاس بندی از پیشرفت تحقیقاتی به یک شرکت آماده محصول با آن روبرو بود ، چه بود؟
پیشرفت تحقیق ثابت کرد که از اپتیک می توان برای ضرب سریع و بسیار کارآمد ماتریس بردار استفاده کرد. با وجود پیشرفت های فنی ، بزرگترین چالش متقاعد کردن مردم بود که لومای می تواند در جایی که سایر استارتاپ های محاسباتی نوری شکست خورده اند موفق شوند. ما مجبور شدیم وقت خود را صرف توضیح دهیم که رویکرد لومای بسیار متفاوت است و به جای اینکه به یک تراشه 2D تک تکیه کنیم ، از اپتیک های سه بعدی برای رسیدن به سطح مقیاس و کارآیی استفاده کردیم. البته مراحل زیادی برای دستیابی به تحقیقات آزمایشگاه به فناوری وجود دارد که می توانند در یک مرکز در یک مرکز داده مستقر شوند. ما خیلی زود تشخیص دادیم که کلید موفقیت در مهندسانی است که در توسعه محصولات در حجم بالا و مراکز داده تجربه دارند. منطقه دیگر نرم افزار است – ضروری است که چارچوب ها و مدل های استاندارد AI می توانند از پردازنده Lumai بهره مند شوند ، و ما ابزارها و چارچوب هایی را ارائه می دهیم تا این کار را تا حد امکان برای مهندسان نرم افزار هوش مصنوعی انجام دهیم.
گفته می شود که فناوری Lumai از ضرب ماتریس نوری سه بعدی استفاده می کند. آیا می توانید آن را به صورت ساده برای مخاطبان عام تقسیم کنید؟
سیستم های هوش مصنوعی باید محاسبات ریاضی زیادی به نام ضرب ماتریس-بردار را انجام دهند. این محاسبات موتور است که پاسخ های AI را قدرت می دهد. در لومای ، ما این کار را با استفاده از نور به جای برق انجام می دهیم. در اینجا نحوه عملکرد آن آورده شده است:
- ما اطلاعات را در تیرهای نور رمزگذاری می کنیم
- این تیرهای سبک از طریق فضای سه بعدی حرکت می کنند
- نور با لنزها و مواد خاص در تعامل است
- این فعل و انفعالات عملکرد ریاضی را کامل می کند
با استفاده از هر سه بعد فضا ، می توانیم اطلاعات بیشتری را با هر پرتوی نور پردازش کنیم. این باعث می شود رویکرد ما بسیار کارآمد باشد – کاهش انرژی ، زمان و هزینه لازم برای اجرای سیستم های AI.
مزایای اصلی محاسبات نوری نسبت به GPU های سنتی مبتنی بر سیلیکون و حتی فوتونیک یکپارچه چیست؟
از آنجا که میزان پیشرفت در فناوری سیلیکون به طور قابل توجهی کند شده است ، هر قدم در عملکرد یک پردازنده AI فقط سیلیکون (مانند یک GPU) منجر به افزایش قابل توجهی در قدرت می شود. راه حل های فقط سیلیکون مقدار فوق العاده ای از قدرت را مصرف می کنند و در حال تعقیب بازده های کمرنگ هستند و این باعث می شود آنها بسیار پیچیده و گران باشند. مزیت استفاده از اپتیک این است که یک بار در حوزه نوری هیچ نیرویی مصرف نمی شود. انرژی برای ورود به دامنه نوری استفاده می شود اما به عنوان مثال ، در پردازنده Lumai می توانیم بیش از 1000 عمل محاسبات را برای هر پرتوی نور ، هر چرخه تک به دست بیاوریم ، بنابراین آن را بسیار کارآمد می کنیم. این مقیاس پذیری با استفاده از فوتونیک های یکپارچه به دلیل محدودیت اندازه فیزیکی و نویز سیگنال قابل دستیابی نیست ، با تعداد عملیات محاسبات محلول سیلیکون-فوتونیک تنها در 1/5 از آنچه امروز لومای می تواند به دست آورد.
چگونه پردازنده Lumai به استنتاج نهان نزدیک صفر می رسد و چرا این یک عامل مهم برای بارهای مدرن هوش مصنوعی است؟
اگرچه ما ادعا نمی کنیم که پردازنده Lumai دارای تأخیر صفر است ، اما یک عملیات بردار ماتریس بسیار بزرگ (1024 x 1024) را در یک چرخه واحد انجام می دهد. راه حل های فقط سیلیکون به طور معمول یک ماتریس را به ماتریس های کوچکتر تقسیم می کنند ، که به صورت جداگانه مرحله به مرحله پردازش می شوند و سپس نتایج باید ترکیب شوند. این زمان به طول می انجامد و منجر به استفاده بیشتر از حافظه و انرژی می شود. کاهش زمان ، انرژی و هزینه پردازش هوش مصنوعی برای هر دو اجازه می دهد تا مشاغل بیشتری از AI بهره مند شوند و هم برای فعال کردن AI پیشرفته به پایدارترین روش.
آیا می توانید از طریق چگونگی ادغام فرم سازگار با PCIE با زیرساخت های مرکز داده موجود ، ما را طی کنید؟
پردازنده Lumai از کارتهای فاکتور فرم PCIE در کنار یک پردازنده استاندارد استفاده می کند ، همه در یک قفسه 4U استاندارد. ما در حال کار با طیف وسیعی از تأمین کنندگان تجهیزات رک مرکز داده هستیم تا پردازنده Lumai با تجهیزات خاص خود ادغام شود. ما از رابط های استاندارد شبکه ، نرم افزارهای استاندارد و غیره استفاده می کنیم تا از نظر خارجی پردازنده Lumai مانند سایر پردازنده های مرکز داده باشد.
مصرف انرژی مرکز داده یک نگرانی جهانی در حال رشد است. چگونه لومای خود را به عنوان یک راه حل پایدار برای محاسبه هوش مصنوعی قرار می دهد؟
مصرف انرژی مرکز داده با سرعت هشدار دهنده در حال افزایش است. با توجه به الف گزارش از آزمایشگاه ملی لارنس برکلیپیش بینی می شود ، مصرف انرژی مرکز داده در ایالات متحده تا سال 2028 سه برابر شود و حداکثر 12 ٪ از قدرت کشور را مصرف کند. برخی از اپراتورهای مرکز داده در نظر دارند تا انرژی لازم را برای تأمین انرژی مورد نیاز نصب کنند. صنعت باید به رویکردهای مختلف در مورد هوش مصنوعی نگاه کند ، و ما معتقدیم که اپتیک پاسخ این بحران انرژی است.
آیا می توانید توضیح دهید که چگونه معماری لومای از تنگناهای مقیاس پذیری رویکردهای سیلیکون و فوتونیک فعلی جلوگیری می کند؟
عملکرد اولین پردازنده Lumai فقط شروع آنچه قابل دستیابی است است. ما انتظار داریم که راه حل ما همچنان به عملکردهای زیادی در عملکرد خود ادامه دهد: با افزایش سرعت ساعت نوری و عرض بردار ، همه بدون افزایش مربوط به انرژی مصرفی. هیچ راه حل دیگری نمی تواند به این هدف برسد. رویکردهای استاندارد فقط سیلیکون دیجیتال برای هر افزایش عملکرد ، هزینه و قدرت بیشتری را مصرف می کند. فوتونیک سیلیکون نمی تواند به عرض بردار مورد نیاز دست یابد و از این رو شرکت هایی که به دنبال فوتونیک یکپارچه برای محاسبات مرکز داده بودند ، برای پرداختن به سایر قسمت های مرکز داده حرکت کرده اند – به عنوان مثال ، اتصال نوری یا سوئیچینگ نوری.
چه نقشی را می بینید که محاسبات نوری در آینده هوش مصنوعی – و به طور گسترده تر ، در محاسبات به طور کلی بازی می کنید؟
Optics به طور کلی نقش مهمی در مراکز داده را به جلو می برد – از اتصال نوری ، شبکه نوری ، سوئیچینگ نوری و البته پردازش AI نوری. خواسته هایی که هوش مصنوعی در مرکز داده قرار می دهد محرک اصلی این حرکت به نوری است. اتصال نوری اتصالات سریعتر بین پردازنده های AI را امکان پذیر می کند ، که برای مدل های بزرگ هوش مصنوعی ضروری است. سوئیچینگ نوری شبکه های کارآمدتری را فعال می کند و محاسبات نوری پردازش سریعتر ، کارآمدتر و کم هزینه تر AI را امکان پذیر می کند. در مجموع آنها به فعال کردن هوش مصنوعی حتی پیشرفته تر کمک می کنند ، با غلبه بر چالش های کاهش سرعت در مقیاس سیلیکون در سمت محاسبات و محدودیت های سرعت مس در سمت اتصال.
با تشکر از شما برای مصاحبه عالی ، خوانندگانی که مایل به کسب اطلاعات بیشتر هستند باید بازدید کنند لومایبشر
