شان رن است دانشیار علوم کامپیوتر و کرسی شغلی اولیه اندرو و ارنا ویتربی در دانشگاه کالیفرنیای جنوبی (USC). او رهبری می کند آزمایشگاه تحقیقاتی کشف هوش و دانش (INK). و ایفای نقش می کند موسسه علوم اطلاعات USC (ISI)، گروه USC NLP، و مرکز یادگیری ماشین USC.
تحقیقات او بر ایجاد سیستمهای پردازش زبان طبیعی قابل تعمیم (NLP)، تقویت هوش مصنوعی با عقل سلیم و بهبود شفافیت مدل متمرکز است. رن علاوه بر کارش در USC، در این کار مشارکت دارد موسسه آلن برای هوش مصنوعی (AI2) و قبلاً به اسنپ چت توصیه کرده است. او دکترای خود را در علوم کامپیوتر از دانشگاه ایلینویز در Urbana-Champaign به دست آورد.
شان همچنین مدیر عامل و بنیانگذار C0 است هوش مصنوعی صحرایک پلتفرم بلاک چین غیرمتمرکز هوش مصنوعی که هدف آن برهم زدن چشم انداز متمرکز هوش مصنوعی با ایجاد یک اقتصاد هوش مصنوعی مشترک است.
چه چیزی الهام بخش شما برای تأسیس هوش مصنوعی صحرا شد و پلتفرم غیرمتمرکز این شرکت چگونه نگرانیهای اخلاقی مربوط به مالکیت هوش مصنوعی را برطرف میکند؟
آزمایشگاه های صحرا در آوریل 2023 تاسیس شد. هوش مصنوعی جهان ما را با سرعتی بی سابقه تغییر می دهد. از توصیه های شخصی و دستیاران مجازی گرفته تا تشخیص های پیشرفته مراقبت های بهداشتی، پیش بینی مالی و اتوماسیون صنعتی، نفوذ هوش مصنوعی فراگیر و رو به رشد است. با این حال، این پیشرفت سریع نگرانی های قابل توجهی را در مورد کنترل، انصاف و دسترسی ایجاد می کند. با قدرتمندتر شدن هوش مصنوعی، سؤالاتی در مورد اینکه چه کسی این سیستم ها را کنترل می کند و چگونه از آنها استفاده می شود، مطرح می شود. شرکتهای بزرگ فناوری بر چشمانداز هوش مصنوعی تسلط دارند و اغلب حجم زیادی از دادههای عمومی را که بدون پرداخت غرامت یا شفافیت کافی به افراد ارائه میشود، جمعآوری میکنند. کاربران اغلب با سرویسهای مبتنی بر هوش مصنوعی بدون اینکه بدانند از دادههایشان چگونه استفاده میشود یا اطلاعاتی که به خروجیهای هوش مصنوعی کمک میکند، تعامل دارند. این تمرکز قدرت و عدم شفافیت می تواند منجر به الگوریتم های مغرضانه، نقض حریم خصوصی و دسترسی نابرابر به مزایای هوش مصنوعی شود. بهعنوان یک محقق و متخصص باتجربه هوش مصنوعی، تیم ما این چالش را در چشمانداز هوش مصنوعی موجود دید و ما راهحلهای طوفان فکری را در سه ماهه دوم ۲۰۲۲ (دوران پیش از GPT) به عنوان یکی از اولینها آغاز کردیم. در نهایت تصمیم گرفتیم که روی چشم انداز و ماموریت فعلی خود قدم بگذاریم.
در Sahara AI، ما رویکرد متفاوتی را متصور هستیم – رویکردی که در آن هوش مصنوعی برای همه در تمام مراحل چرخه توسعه هوش مصنوعی باز، عادلانه و مفید است. پلتفرم بلاک چین غیرمتمرکز هوش مصنوعی ما به همه – از توسعه دهندگان فردی گرفته تا شرکت های بزرگ – اجازه می دهد تا در پیشرفت های هوش مصنوعی شرکت کنند و از آن بهره مند شوند. این تضمین میکند که همه مشارکتکنندگان به طور عادلانه غرامت دریافت میکنند، حاکمیت دادهها و مدلها حفظ میشوند، و داراییهای هوش مصنوعی را میتوان به طور ایمن ایجاد، به اشتراک گذاشت و داد و ستد کرد، همگی در عین حفظ حریم خصوصی و ارتقای فراگیر.
به عنوان دانشیار در USC، سوابق تحصیلی شما چگونه بر رویکرد شما به مالکیت و حکمرانی هوش مصنوعی در آزمایشگاه های صحرا تأثیر می گذارد؟
تحقیقات دانشگاهی من بر روی ساختن سیستمهای پردازش زبان طبیعی قابل تعمیم (NLP) متمرکز است که قادر به مدیریت طیف گستردهای از وظایف و موقعیتهای زبانی است. این شامل توسعه الگوریتمها و مجموعه دادههای جدید برای مقرونبهصرفه ساختن و نگهداری مدلهای NLP، مسلح کردن مدلهای هوش مصنوعی با استدلال عقل سلیم و بهبود شفافیت و قابلیت اطمینان آنها برای ایجاد اعتماد کاربران است. این اصول مستقیماً بر رویکرد من به مالکیت و حاکمیت هوش مصنوعی در آزمایشگاههای صحرا تأثیر گذاشته است. در هوش مصنوعی صحرا، ما در دسترستر، شفافتر و قابلاعتمادتر کردن هوش مصنوعی را در اولویت قرار میدهیم – ارزشهایی که از کار آکادمیک من ناشی میشوند.
چگونه میبینید که مدلهای جبران عادلانه در حال تغییر شکل دادن به صنایع، و چگونه هوش مصنوعی صحرا به مشارکتکنندگان در زنجیره ارزش هوش مصنوعی قدرت میدهد؟
غرامت عادلانه در چشم انداز ما نقش اساسی دارد. همانطور که هوش مصنوعی صنایع را تغییر میدهد، بسیار مهم است که مشارکتکنندگان در همه سطوح – چه در حال ارائه دادهها، چه مدلهای ساخت و یا ارائه منابع محاسباتی باشند – به طور منصفانه جبران شود. پلت فرم ما یک اقتصاد هوش مصنوعی مشترک را تقویت می کند که در آن مشارکت کنندگان به نسبت ارزشی که ایجاد می کنند پاداش می گیرند. با استفاده از بلاک چین، ما اطمینان میدهیم که جبران خسارت شفاف و قابل ردیابی است، و مشخص میکند چه کسی چه کمکی کرده است و چگونه جبران میشود. این مدل با کنترل داراییهایشان و تضمین پرداختهای منصفانه، مشارکتکنندگان را در زنجیره ارزش هوش مصنوعی توانمند میسازد.
بازار غیرمتمرکز ما امکان معاملات مستقیم همتا به همتا، حذف واسطه ها و ایجاد یک اقتصاد فراگیرتر و در دسترس را فراهم می کند. همانطور که هوش مصنوعی به تکامل خود ادامه می دهد، شاهد تغییر به سمت این نوع مدل غیرمتمرکز و عادلانه هستیم که در آن مشارکت کنندگان در هر اندازه می توانند پیشرفت کنند.
هوش مصنوعی صحرا بر «حاکمیت هوش مصنوعی» تأکید دارد. آیا می توانید توضیح دهید که این به چه معناست و چگونه بر کاربران، توسعه دهندگان و مشاغل در اکوسیستم هوش مصنوعی تأثیر می گذارد؟
حاکمیت هوش مصنوعی یک اصل اساسی پلتفرم ما است. این بدان معناست که همه – اعم از کاربران نهایی، توسعه دهندگان و مشاغل – مالکیت و کنترل کامل بر دارایی های هوش مصنوعی خود را حفظ می کنند. در سیستمهای متمرکز هوش مصنوعی امروزی، مالکیت اغلب به شرکتهای بزرگ منتقل میشود که منجر به از دست دادن کنترل و حریم خصوصی سازندگان میشود. هوش مصنوعی صحرا این پویایی را با استفاده از بلاک چین تغییر میدهد تا به کسانی که داراییهای هوش مصنوعی مختلف را توسعه میدهند یا به آن کمک میکنند، حاکمیت کامل بدهد. حاکمیت هوش مصنوعی یک اکوسیستم باز و غیرمتمرکز را تقویت می کند که در آن افراد و تیم های کوچک می توانند با نهادهای بزرگتر رقابت کنند و در عین حال کنترل مالکیت معنوی خود را حفظ کنند. این به پروژههای کوچکتر اجازه میدهد تا بدون نگرانی در مورد از دست دادن مالکیت یا مزیت رقابتی، نوآوری کنند، در حالی که توسعهدهندگان میتوانند با شرایط خود از کار خود درآمد کسب کنند.
کار شما بر شفافیت و اعتماد به هوش مصنوعی متمرکز است. هوش مصنوعی صحرا چگونه این ارزش ها را در توسعه پلتفرم بلاک چین خود ادغام می کند؟
فناوری بلاک چین به ما این امکان را می دهد که اطمینان حاصل کنیم که هر اقدامی در پلتفرم ما – از توسعه دارایی های هوش مصنوعی گرفته تا استقرار و کسب درآمد آنها – کاملاً شفاف است و در یک دفتر کل غیرقابل تغییر ثبت می شود. این یک سابقه قابل تأیید ایجاد می کند که هر کسی می تواند آن را حسابرسی کند و اطمینان حاصل کند که دارایی های هوش مصنوعی به صورت اخلاقی و منصفانه اداره می شود. اعتماد به این دلیل ایجاد می شود که کاربران دیگر مجبور نیستند برای مدیریت مشارکت های خود به یک مرجع مرکزی تکیه کنند. در عوض، ماهیت غیرمتمرکز هوش مصنوعی صحرا تضمین می کند که هیچ نهاد واحدی کنترل ندارد و هر شرکت کننده می تواند نحوه استفاده از کار خود را ببیند. این سیستم شفافیت مسئولیت پذیری و اعتماد را در سراسر پلتفرم تقویت می کند، که برای ایجاد یک اکوسیستم هوش مصنوعی اخلاقی بسیار مهم است.
با توجه به همکاری های گسترده شما با شرکت هایی مانند مایکروسافت، آمازون و اسنپ، نقش شرکت های بزرگ فناوری را در شکل دادن به آینده هوش مصنوعی غیرمتمرکز چگونه می بینید؟
شرکت های بزرگ فناوری در پیشرفت هوش مصنوعی نقش مهمی داشته اند، اما رویکرد متمرکز آنها دسترسی به منابع و نوآوری را برای بازیکنان کوچکتر محدود می کند. من هوش مصنوعی غیرمتمرکز را راهی برای تکمیل کار این شرکتهای بزرگ و در عین حال ترویج دسترسی گستردهتر و انصاف میدانم. پلتفرمهای غیرمتمرکز ابزارهایی را به توسعهدهندگان و کسبوکارهای کوچکتر میدهند تا در شرایط برابر رقابت کنند، سطحی از استقلال و مالکیت را ارائه میدهند که معمولاً در سیستمهای متمرکز در دسترس نیست. در حالی که شرکتهای بزرگ به ایفای نقش مهمی در نوآوری هوش مصنوعی ادامه میدهند، پلتفرمهای غیرمتمرکز هوش مصنوعی مانند هوش مصنوعی صحرا اکوسیستم را دموکراتیک میکنند و تضمین میکنند که مزایای هوش مصنوعی به طور مساوی در کل جامعه توزیع میشود.
چه چالشهایی را در حفظ استانداردهای اخلاقی هوش مصنوعی با ادامه رشد هوش مصنوعی پیشبینی میکنید و هوش مصنوعی صحرا چگونه برای رسیدگی به این موارد قرار گرفته است؟
حفظ استانداردهای اخلاقی هوش مصنوعی یک چالش مداوم است، به ویژه با فراگیرتر شدن هوش مصنوعی. مسائلی مانند حریم خصوصی داده ها، شفافیت، و جبران عادلانه نیاز به نظارت دائمی دارند. در هوش مصنوعی صحرا، ما در موقعیتی قرار داریم که از طریق مدل حکمرانی غیرمتمرکز خود به این چالشها رسیدگی کنیم.
اداره پلت فرم ما توسط جامعه هدایت می شود و تصمیمات کلیدی به طور شفاف از طریق Sahara DAO (سازمان خودمختار غیرمتمرکز) گرفته می شود. کاربرانی که سهم قابل توجهی در اکوسیستم داشتهاند، در مسیر پلتفرم حرفی برای گفتن دارند، طرحهایی را پیشنهاد میکنند که با ارزشهای جامعه همسو هستند.
بنیاد صحرا نقش کلیدی در حمایت از این مدل حکومتی ایفا خواهد کرد و DAO را در مراحل شکلگیری آن راهنمایی میکند تا اطمینان حاصل شود که به یک بدنه کاملاً غیرمتمرکز و جامعه محور تبدیل میشود. با تعبیه این ساختار حاکمیت غیرمتمرکز در پلتفرم، ما اطمینان حاصل می کنیم که استانداردهای اخلاقی حفظ می شود و مشارکت کنندگان به طور عادلانه در فرآیندهای تصمیم گیری نمایندگی می شوند.
آیا میتوانید درباره برنامه Prometheus و اینکه چگونه جامعه را دعوت میکند تا آینده هوش مصنوعی غیرمتمرکز را با هوش مصنوعی صحرا شکل دهد، به ما بگویید؟
برنامه Prometheus ابتکار ما برای دعوت از جامعه برای مشارکت فعال در شکل دادن به آینده هوش مصنوعی غیرمتمرکز است. شرکتکنندگانی که ما آنها را پرومتههای امروزی مینامیم، به ابزارها و پلتفرم ما دسترسی زودهنگامی دارند و به آنها اجازه میدهد تا از طریق بازخورد خود مستقیماً بر روند توسعه تأثیر بگذارند. این برنامه در مورد همکاری است – مشارکتکنندگان به ما کمک میکنند تا پلتفرم را اصلاح و بهبود ببخشیم، و در ازای آن، برای ورودی و تلاشهای خود پاداش دریافت میکنند. این بخش مهمی از چشم انداز ما برای یک اکوسیستم هوش مصنوعی باز و مشارکتی است که در آن جامعه نقش اصلی را در شکل دادن به آینده آن ایفا می کند.
به عنوان یک رهبر در دانشگاه و صنعت هوش مصنوعی، چگونه تلاش های تحقیقاتی خود را با مسئولیت های کارآفرینی خود در هوش مصنوعی صحرا متعادل می کنید؟
ایجاد تعادل بین دانشگاه و کارآفرینی نیازمند مدیریت دقیق است، اما این دو نقش مکمل یکدیگر هستند. تحقیقات من بیشتر از کارهایی که در صحرا AI انجام میدهیم را نشان میدهد. در همین حال، چالشهای عملی ساخت یک پلتفرم هوش مصنوعی غیرمتمرکز دیدگاههای جدیدی را ارائه میکند که تحقیقات من را تقویت میکند. من خوش شانس هستم که با تیم های با استعداد در هر دو زمینه کار می کنم و به من این امکان را می دهد که بدون افت کیفیت در هر دو زمینه مشارکت داشته باشم. این همافزایی تضمین میکند که هوش مصنوعی صحرا در تحقیقات پیشرفته و در عین حال پرداختن به چالشهای دنیای واقعی است.
چه چیزی شما را بیشتر در مورد آینده حکمرانی هوش مصنوعی هیجان زده میکند و چگونه میتوانیم اطمینان حاصل کنیم که اقدامات اخلاقی هوش مصنوعی در اولویتهای سالهای آینده باقی بماند؟
با سیستمهای غیرمتمرکز مانند هوش مصنوعی صحرا، میتوانیم شکلی دموکراتیک و شفافتر از حکمرانی ایجاد کنیم که در آن مشارکتکنندگان کنترل مستقیمی بر داراییهای هوش مصنوعی خود داشته باشند. این تضمین می کند که رویه های اخلاقی در خود سیستم تعبیه شده است. برای اینکه شیوههای هوش مصنوعی اخلاقی را در اولویت قرار دهیم، باید بر شفافیت، مسئولیتپذیری و فراگیر بودن تمرکز کنیم و اطمینان حاصل کنیم که همه سهامداران، صرفنظر از اندازه، در شکلدهی آینده هوش مصنوعی صدایی دارند. با توانمندسازی جامعه برای اداره توسعه هوش مصنوعی، میتوانیم آیندهای بسازیم که در آن هوش مصنوعی اخلاقی استاندارد باشد، نه استثنا.
با تشکر از شما برای مصاحبه عالی، خوانندگانی که مایل به کسب اطلاعات بیشتر هستند باید از آن بازدید کنند هوش مصنوعی صحرا.