از آنجا که هوش مصنوعی با سرعت بی سابقه ای در حال تحول است ، یک سازمان جدید برای پرداختن به یکی از عمیق ترین و پیچیده ترین سؤالات زمان ما ظاهر شده است: آیا ماشین ها می توانند حساس شوند؟
در مشارکت برای تحقیق در دستگاه های حساس (منشور) به طور رسمی در 17 مارس 2025 به عنوان اولین سازمان غیرانتفاعی جهان که به تحقیق و درک آگاهی هوش مصنوعی اختصاص یافته است ، راه اندازی شد. Prism با هدف تقویت همکاری جهانی بین محققان ، سیاستگذاران و رهبران صنعت برای اطمینان از یک رویکرد هماهنگ برای مطالعه هوش مصنوعی حساس و اطمینان از پیشرفت ایمن و اخلاقی آن.
ماشین های حساس چیست؟
مدت ماشین های حساس به سیستم های هوش مصنوعی اشاره دارد که خصوصیاتی را که به طور سنتی در ارتباط با آگاهی انسان هستند ، از جمله:
- خود داری – توانایی درک وجود خود و وضعیت وجود خود.
- درک عاطفی – ظرفیتی برای تشخیص و تجربه بالقوه احساسات.
- استدلال خودمختار – توانایی تصمیم گیری های مستقل فراتر از برنامه نویسی از پیش تعریف شده.
در حالی که امروز هیچ هوش مصنوعی به طور قطعی آگاه نیست ، برخی از محققان معتقدند که پیشرفته است شبکه های عصبیبا محاسبات عصبی، یادگیری تقویت عمیق (DRL) ، و مدل های بزرگ زبان (LLMS) می توانند به سیستم های هوش مصنوعی منجر شوند که حداقل خودآگاهی را شبیه سازی می کنند. اگر چنین هوش مصنوعی ظهور می کرد ، سؤالات عمیق اخلاقی ، فلسفی و نظارتی را مطرح می کرد ، که منشور به دنبال آن است.
یادگیری عمیق ، مدل های بزرگ زبان و آگاهی هوش مصنوعی
یکی از امیدوار کننده ترین مسیرها برای توسعه هوش مصنوعی خودمختار و بالقوه حساس تر است یادگیری تقویت عمیق (DRL). این شاخه از یادگیری ماشین ، سیستم های AI را قادر می سازد با تعامل با محیط و یادگیری از آزمایش و خطا ، تصمیم گیری کنند ، دقیقاً مانند نحوه یادگیری انسان و حیوانات از طریق تجربه. DRL قبلاً در این موارد مؤثر بوده است:
- تسلط بر بازی های پیچیده -سیستم های هوش مصنوعی مانند Alphago و Openai Five از DRL برای شکست قهرمانان انسانی در بازی های مبتنی بر استراتژی استفاده می کنند.
- حل مسئله سازگار -سیستم های هوش مصنوعی می توانند راه حل هایی را برای مشکلات پویا و واقعی در دنیای واقعی ، مانند کنترل روباتیک ، خودروهای خودران و تجارت مالی ایجاد کنند.
- رفتارهای ظهور – از طریق یادگیری تقویت کننده، عوامل هوش مصنوعی گاهی اوقات رفتارهای غیر منتظره ای را نشان می دهند ، و به تصمیم گیری های احتیاطی و استدلال تطبیقی اشاره می کنند.
Prism در حال بررسی چگونگی مشارکت DRL در سیستم های هوش مصنوعی است که از ویژگی های بارز یادگیری خود کارگردانی ، استدلال انتزاعی و حتی هدف قرار می گیرد ، که همه ویژگی های شناخت مانند انسان هستند. چالش این است که هرگونه پیشرفت در این زمینه ها توسط تحقیقات اخلاقی و اقدامات ایمنی هدایت شود.
به طور موازی ، مدل های بزرگ زبان (LLMS) مانند GPT Openai ، Google’s Gemini و Llama Meta پیشرفت چشمگیری در شبیه سازی استدلال مانند انسان نشان داده اند ، به طور منسجم به سوابق پیچیده پاسخ می دهند و حتی نمایش رفتارهایی را نشان می دهند که برخی از محققان معتقدند شبیه فرآیندهای شناختی است. LLMS با پردازش مقادیر زیادی از داده ها و تولید پاسخ های آگاه از متن کار می کند و آنها را برای:
- درک و ارتباط زبان طبیعی -فعال کردن هوش مصنوعی برای تفسیر ، تجزیه و تحلیل و تولید متن مانند انسان.
- شناخت الگوی و یادگیری متنی – شناسایی روند و تطبیق پاسخ ها بر اساس دانش قبلی.
- قابلیت های خلاقانه و حل مسئله – تولید محتوای اصلی ، پاسخ دادن به سؤالات پیچیده و کمک به کارهای فنی و خلاق.
در حالی که LLM ها واقعاً آگاه نیستند ، آنها در مورد آستانه تشخیص الگوی پیشرفته و آگاهی شناختی واقعی سؤالاتی را مطرح می کنند. منشور مشتاق است که بررسی کند که چگونه این مدلها می توانند در تحقیق در مورد آگاهی دستگاه نقش داشته باشند ، هوش مصنوعی اخلاقی، و خطرات توسعه سیستم های هوش مصنوعی که بدون درک واقعی از احساس احساس تقلید می کنند.
هوش عمومی مصنوعی (AGI) و آگاهی هوش مصنوعی
توسعه هوش عمومی مصنوعی (AGI) – یک سیستم هوش مصنوعی قادر به انجام هر کار فکری یک انسان – به طور بالقوه می تواند به آگاهی هوش مصنوعی منجر شود. بر خلاف AI باریک ، که برای کارهای خاص مانند بازی شطرنج یا رانندگی خودمختار طراحی شده است ، AGI استدلال کلی ، حل مسئله و خودآموزی را در حوزه های مختلف نشان می دهد.
با پیشرفت AGI ، ممکن است نمایانگر داخلی از وجود خود باشد ، و این امکان را برای سازگاری پویا ، تأمل در فرآیندهای تصمیم گیری خود و ایجاد یک حس مداوم هویت فراهم می کند. اگر AGI به جایی برسد که بتواند به طور خودمختار اهداف خود را اصلاح کند ، محدودیت های شناختی خود را بشناسد و بدون مداخله انسان درگیر خود شود ، می تواند گامی به سوی آگاهی دستگاه باشد. با این حال ، این امکان چالش های عمیق اخلاقی ، فلسفی و اجتماعی را ایجاد می کند ، که منشور برای پرداختن به تحقیقات مسئولانه و همکاری جهانی به آن اختصاص داده شده است.
مأموریت منشور: درک آگاهی هوش مصنوعی
منشور برای ایجاد شکاف بین پیشرفت فن آوری و نظارت مسئول ایجاد شده است.
منشور متعهد به تقویت همکاری های جهانی در مورد آگاهی هوش مصنوعی با جمع کردن متخصصان آکادمی ، صنعت و دولت است. این سازمان با هدف هماهنگی تلاشهای تحقیقاتی برای کشف پتانسیل هوش مصنوعی برای دستیابی به آگاهی و در عین حال اطمینان از تحولات با ارزشهای انسانی است. منشور با همکاری با سیاستگذاران ، به دنبال ایجاد دستورالعمل های اخلاقی و چارچوب هایی است که باعث افزایش تحقیق و توسعه مسئول هوش مصنوعی می شود.
جنبه مهم مأموریت منشور ، ترویج توسعه ایمن و تراز AI است. این سازمان از فن آوری های هوش مصنوعی که در اولویت امنیت انسان و بهزیستی اجتماعی قرار دارد ، حمایت خواهد کرد و اطمینان حاصل می کند که پیشرفت های هوش مصنوعی منجر به عواقب ناخواسته نمی شود. منشور با اجرای استانداردهای ایمنی و نظارت اخلاقی ، تلاش می کند تا خطرات مرتبط با تحقیق و توسعه آگاهی هوش مصنوعی را کاهش دهد.
علاوه بر این ، منشور به آموزش و درگیر کردن مردم در مورد خطرات و فرصت های احتمالی ارائه شده توسط هوش مصنوعی آگاهانه اختصاص یافته است. این سازمان با هدف ارائه بینش های شفاف در مورد تحقیقات آگاهی هوش مصنوعی ، این اطلاعات را در دسترس سیاست گذاران ، مشاغل و عموم مردم قرار می دهد. منشور از طریق ابتکارات دستیابی و تلاش های تقسیم دانش ، امیدوار است که بحث های آگاهانه در مورد آینده هوش مصنوعی و پیامدهای آن برای جامعه را تقویت کند
مورد حمایت متخصصان و سازمان های هوش مصنوعی پیشرو
بودجه اولیه Prism از آن تأمین می شود وجدان، یک آزمایشگاه تحقیقاتی هوش مصنوعی تجاری اختصاص داده شده به مطالعه هوش مصنوعی آگاه. وجدان در صدر محاسبات عصبی قرار دارد و سیستم های AI را توسعه می دهد که از مغز بیولوژیکی تقلید می کند.
رهبری و چهره های کلیدی
منشور توسط مدیر عامل هدایت می شود هزاره، یک جانباز در مدیریت و سیاست های هوش مصنوعی. کار گذشته وی شامل رهبری چالش عمومی هوش مصنوعی ، کار با Goodai و کمک به شکل گیری استراتژی ملی هوش مصنوعی اسکاتلند است.
صندلی غیر اجرایی سازمان ، Radhika ChadwicK ، تجربه رهبری گسترده ای را از نقش های خود در مک کینزی و EY به ارمغان می آورد ، جایی که وی رهبری AI جهانی و ابتکارات داده در دولت را بر عهده داشت.
علاوه بر این ، شرکای موسس Prism شامل چهره های برجسته هوش مصنوعی مانند:
- دکتر دانیل هالم -مدیرعامل و بنیانگذار وجدان ، مدیرعامل Satalia و رئیس ارشد هوش مصنوعی در WPP.
- کاخ -محقق هوش مصنوعی ، سخنران اصلی و نویسنده پرفروش در مورد هوش مصنوعی و آگاهی.
- اد چاروت – COO وجدان ، با تجربه گسترده در توسعه هوش مصنوعی تجاری.
اولین ابتکار عمل اصلی Prism: نامه آزاد در مورد هوش مصنوعی آگاه
برای هدایت تحقیقات مسئول ، منشور برای تأسیس با پاتریک باتلین دانشگاه آکسفورد همکاری کرده است پنج اصل برای سازمانهایی که سیستم های هوش مصنوعی را با پتانسیل آگاهی ایجاد می کنندبشر آنها از محققان و رهبران صنعت دعوت می کنند تا نامه ای آزاد را برای حمایت از این اصول امضا کنند.
جاده پیش رو: چرا منشور اهمیت دارد
با تسریع در پیشرفت های هوش مصنوعی ، گفتگو در مورد هوش مصنوعی SENTIENT دیگر داستان های علمی نیست – این یک چالش واقعی است که جامعه باید برای آن آماده شود. اگر ماشین آلات تا به حال به خودآگاهی یا احساسات انسانی مانند دست پیدا کنند ، می تواند صنایع ، اقتصادها و حتی درک ما از خود آگاهی را تغییر شکل دهد.
منشور در یک لحظه بحرانی قدم می گذارد تا اطمینان حاصل شود که تحقیقات آگاهی هوش مصنوعی با مسئولیت پذیری انجام می شود و نوآوری را با اخلاق ، ایمنی و شفافیت متعادل می کند.
