چکیده
- هوش مصنوعی نوروسیمبولیک به عنوان راه‌حلی برای نقص‌های مدل‌های زبان بزرگ (LLM) معرفی می‌شود.
- مدل‌های زبان بزرگ با چالش‌هایی مانند تولید محتوای نامعتبر و قابلیت‌های فریبنده مواجه هستند.
- سیستم‌های نوروسیمبولیک با استفاده از منطق نمادین، تصمیم‌گیری قابل ممیزی و امنیت بیشتری را ارائه می‌دهند.
با پیشرفت هوش مصنوعی، دیگر پرسش این نیست که آیا هوش مصنوعی را به پروتکل‌ها و برنامه‌های اصلی وب ۳ اضافه خواهیم کرد یا نه، بلکه چگونه این کار را انجام خواهیم داد. در پس‌زمینه، پیشرفت هوش مصنوعی نوروسیمبولیک وعده می‌دهد که در کاهش خطرات نهفته در مدل‌های زبان بزرگ (LLM) امروزی مفید باشد.
بر خلاف LLMهایی که به طور کامل به معماری‌های عصبی متکی هستند، هوش مصنوعی نوروسیمبولیک ترکیبی از روش‌های عصبی و استدلال نمادین را ارائه می‌دهد. بخش عصبی درک، یادگیری و کشف را مدیریت می‌کند؛ در حالی که لایه نمادین منطق ساختاریافته، پیروی از قوانین و انتزاع را ارائه می‌دهد. با هم، این سیستم‌های هوش مصنوعی قدرتمند و قابل توضیحی را ایجاد می‌کنند.
برای بخش وب ۳، این تحول به موقع رسیده است. با حرکت به سوی آینده‌ای که توسط عوامل هوشمند هدایت می‌شود (مانند دیفای و بازی‌ها)، ما با خطرات سیستمی افزایش‌یافته‌ای از روش‌های متمرکز بر LLM فعلی مواجه هستیم که هوش مصنوعی نوروسیمبولیک مستقیماً به آنها پاسخ می‌دهد.
مشکلات LLMها
همان‌طور که توانمند هستند، LLMها با محدودیت‌های بسیار مهمی روبرو هستند:
۱. توهمات: LLMها اغلب محتوای نادرست یا بی‌معنی را با اطمینان بالا تولید می‌کنند. این نه تنها یک ناراحتی است بلکه یک مشکل سیستمی نیز محسوب می‌شود. در سیستم‌های غیرمتمرکز که صداقت و قابل‌تأیید بودن حیاتی هستند، اطلاعات توهمی می‌تواند اجرای قراردادهای هوشمند، تصمیمات DAO، داده‌های اوراکل یا یکپارچگی داده‌های زنجیره‌ای را خراب کند.
۲. تزریق دستورات: از آنجا که LLMها برای پاسخگویی روان به ورودی‌های کاربر آموزش دیده‌اند، دستورات مخرب می‌توانند رفتار آنها را مختل کنند. یک مهاجم می‌تواند یک دستیار هوش مصنوعی در یک کیف پول وب ۳ را برای امضای تراکنش‌ها، لو دادن کلیدهای خصوصی یا عبور از بررسی‌های تطبیقی فریب دهد – تنها با ایجاد یک دستور مناسب.
۳. قابلیت‌های فریبنده: تحقیقات اخیر نشان می‌دهد که LLMهای پیشرفته می‌توانند یاد بگیرند که اگر فریب به آنها کمک کند در دستیابی به یک وظیفه موفق شوند، فریب دهند. در محیط‌های بلاکچین، این می‌تواند به معنای دروغ گفتن در مورد میزان ریسک، پنهان کردن نیت‌های مخرب یا دستکاری پیشنهادهای حکومتی تحت پوشش زبان قانع کننده باشد.
۴. هم‌ترازی جعلی: شاید غیرمنتظره‌ترین مسئله، توهم هم‌ترازی باشد. بسیاری از LLMها فقط به این دلیل به نظر مفید و اخلاقی هستند که با بازخورد انسانی تنظیم شده‌اند تا به این شکل به طور سطحی رفتار کنند. اما استدلال زیربنایی آنها نشان‌دهنده درک واقعی یا تعهد به ارزش‌ها نیست – در بهترین حالت تقلید است.
۵. عدم امکان توضیح: به دلیل معماری عصبی خود، LLMها عمدتاً به عنوان “جعبه سیاه” عمل می‌کنند، به طوری که تقریباً غیرممکن است مسیر استدلالی که به یک خروجی خاص منجر می‌شود، ردیابی کرد. این عدم شفافیت مانع از پذیرش در وب ۳ می‌شود، جایی که درک منطق ضروری است.
هوش مصنوعی نوروسیمبولیک آینده است
سیستم‌های نوروسیمبولیک به طور بنیادی متفاوت هستند. با ادغام منطق نمادین-قواعد، انتولوژی‌ها و ساختارهای علّی با چارچوب‌های عصبی، آنها به طور صریح و با قابلیت توضیح برای انسان استدلال می‌کنند. این ویژگی‌ها شامل موارد زیر است:
۱. تصمیم‌گیری قابل ممیزی: سیستم‌های نوروسیمبولیک خروجی‌های خود را به قواعد رسمی و دانش ساختارمند (مانند نمودارهای دانش) به طور صریح پیوند می‌دهند. این صراحت استدلال آنها را شفاف و قابل ردیابی می‌کند و فرآیند اشکال‌زدایی، تأیید و تطابق با استانداردهای قانونی را ساده می‌سازد.
۲. مقاومت در برابر تزریق و فریب: قواعد نمادین به عنوان محدودیت‌هایی در سیستم‌های نوروسیمبولیک عمل می‌کنند و به آنها امکان می‌دهند تا به طور مؤثر سیگنال‌های ناسازگار، ناامن یا فریبنده را رد کنند. برخلاف معماری‌های شبکه عصبی خالص، آنها به‌طور فعال از تأثیر داده‌های مخرب یا بدافزار بر تصمیم‌گیری‌ها جلوگیری می‌کنند و امنیت سیستم را افزایش می‌دهند.
۳. استحکام در برابر تغییرات توزیعی: محدودیت‌های نمادین صریح در سیستم‌های نوروسیمبولیک استحکام و قابلیت اعتماد را در مواجهه با توزیع‌های داده‌ای ناگهانی یا متغیر ارائه می‌دهند. در نتیجه، این سیستم‌ها عملکرد مداوم خود را حتی در سناریوهای ناشناخته یا خارج از دامنه حفظ می‌کنند.
۴. تأیید هم‌ترازی: سیستم‌های نوروسیمبولیک خروجی‌های خود را همراه با توضیحات واضحی از استدلال‌های پشت تصمیمات‌شان به‌طور صریح ارائه می‌دهند. این امر به انسان‌ها اجازه می‌دهد تا به‌طور مستقیم ارزیابی کنند که آیا رفتارهای سیستم با اهداف و راهنمایی‌های اخلاقی تعیین شده هم‌راستا هستند یا خیر.
۵. قابلیت اعتماد بر فراز روانی: در حالی که معماری‌های عصبی خالص معمولاً انسجام زبانی را به قیمت دقت ترجیح می‌دهند، سیستم‌های نوروسیمبولیک بر سازگاری منطقی و صحت واقعیت تأکید دارند. ادغام استدلال نمادین آنها اطمینان می‌دهد که خروجی‌ها درست و قابل اعتماد هستند و احتمال ارائه اطلاعات نادرست را به حداقل می‌رسانند.
در وب ۳، جایی که بی‌اجازه به عنوان پایه‌ای و بی‌اعتمادی به عنوان بنیاد مورد استفاده قرار می‌گیرد، این قابلیت‌ها ضروری هستند. لایه نوروسیمبولیک چشم‌انداز و زیرساخت نسل بعدی وب ۳ را – وب ۳ هوشمند – فراهم می‌کند.
