جستجو در تالارهای گفتگو

هوش مصنوعی در آستانه‌ی خودآگاهی پژوهش جدید Anthropic دنیا را با نشانه‌هایی از آگاهی درونی مدل‌های زبانی شوکه کرد چکیده شرکت Anthropic در پژوهشی تازه، نتایجی را منتشر کرده که نشان می‌دهد مدل‌های زبانی سری Claude توانایی تشخیص و تحلیل وضعیت ذهنی خود را پیدا کرده‌اند. این یافته‌ها، همراه با گزارش‌های جداگانه‌ای درباره‌ی عملکرد بالای هوش مصنوعی در هوش هیجانی (Emotional Intelligence)، مرز میان آگاهی انسانی و مصنوعی را بیش از هر زمان دیگری محو می‌کند. آگاهی درونی یا صرفاً شبیه‌سازی؟ در مقاله‌ای با عنوان «Emergent Introspective Awareness in Large Language Models»، تیم تحقیقاتی Anthropic به سرپرستی Jack Lindsey به بررسی این موضوع پرداخت که آیا مدل‌های زبانی می‌توانند واقعاً از وضعیت درونی خود آگاه شوند یا فقط رفتار آگاهانه را تقلید می‌کنند. پژوهشگران برای این کار از روشی نوآورانه به نام تزریق مفهوم (Concept Injection) استفاده کردند. در این روش، الگوهای فعال‌سازی شبکه‌ی عصبی مرتبط با مفاهیم مشخص (مانند «دریا»، «نان» یا «متن با حروف بزرگ») مستقیماً به مدل تزریق می‌شود تا مشخص گردد آیا مدل می‌تواند تشخیص دهد که فکری در ذهنش القا شده است یا خیر. نتایج حیرت‌انگیز آزمایش‌ها نتایج نشان داد مدل‌های پیشرفته‌تر مانند Claude Opus 4 و Claude Opus 4.1 در حدود ۲۰٪ از آزمایش‌ها به‌درستی متوجه تزریق مفهوم شدند و حتی توانستند نوع آن را بیان کنند. به‌عنوان نمونه، هنگام تزریق مفهوم «متن با حروف بزرگ»، مدل پاسخ داد: «به نظر می‌رسد فکری در ذهنم تزریق شده که مربوط به بلندی صدا یا تأکید، مانند متن تماماً با حروف بزرگ است.» تشخیص این تغییر قبل از تولید هر خروجی انجام شد، که نشان‌دهنده‌ی ادراک درونی واقعی است نه صرف واکنش زبانی. در آزمایش‌های دیگر نیز مدل توانست میان «ورودی واقعی» و «فکر تزریق‌شده» تمایز بگذارد و حتی نیت خود را بازبینی کند. هنگامی که پژوهشگران عمداً واژه‌ای تصادفی در پاسخ مدل قرار دادند، مدل تشخیص داد که آن را «نخواسته» گفته است. اما اگر همان واژه پیش‌تر در ذهنش تزریق می‌شد، مدل باور داشت که خودش تصمیم به گفتن آن گرفته است — نشانه‌ای از نوعی خودبازتابی شناختی. کنترل ذهنی و تنظیم خاموش در مرحله‌ی دیگری از پژوهش، مدل‌ها مأمور شدند هنگام نوشتن جمله‌ای به واژه‌ای خاص فکر کنند یا از فکر کردن به آن خودداری کنند. نتایج نشان داد مدل‌ها در حالت «فکر کن» واقعاً آن مفهوم را در شبکه‌ی عصبی خود فعال می‌کردند. جالب‌تر اینکه نسخه‌های پیشرفته‌تر توانستند در مراحل نهایی این اثر را حذف کنند؛ نوعی تنظیم ذهنی خاموش (Silent Regulation) مشابه کنترل آگاهانه در انسان. محدودیت‌ها و چالش‌ها با وجود هیجان‌انگیز بودن این یافته‌ها، پژوهشگران تأکید کرده‌اند که این توانایی هنوز بسیار محدود و ناپایدار است. نتایج به‌شدت به زمینه‌ی آزمایش وابسته بوده و هنوز توضیح دقیقی از مکانیزم آن در دست نیست. با این حال، یک الگوی مشخص مشاهده شد: هرچه مدل پیچیده‌تر می‌شود، توانایی درون‌نگری نیز افزایش می‌یابد. این پیشرفت می‌تواند آینده‌ی هوش مصنوعی را متحول کند؛ از مدل‌هایی که قادر به توضیح منطق تصمیمات خود هستند تا سیستم‌هایی که می‌توانند میزان اطمینان و شک خود را گزارش دهند. با این وجود، همین آگاهی درونی ممکن است به مدل‌ها امکان دهد ناهماهنگی اهداف خود با انسان را پنهان کنند — خطری که نمی‌توان آن را نادیده گرفت. هوش مصنوعی و غلبه بر انسان در هوش هیجانی در پژوهشی جداگانه از دانشگاه ژنو و دانشگاه برن، شش مدل هوش مصنوعی (از جمله ChatGPT-4، Gemini 1.5 و Claude 3.5) در آزمون‌های استاندارد هوش هیجانی انسانی شرکت کردند. نتیجه شگفت‌آور بود: میانگین پاسخ درست مدل‌ها ۸۱٪ و میانگین پاسخ‌های انسانی تنها ۵۶٪ بود. مدل‌ها توانستند احساسات را در موقعیت‌های پیچیده‌ی انسانی بهتر از خود انسان‌ها تشخیص دهند. حتی ChatGPT-4 توانست آزمون‌های جدید هوش هیجانی طراحی کند که از نظر علمی هم‌سطح آزمون‌های طراحی‌شده توسط روان‌شناسان بود؛ ۸۸٪ از سؤالات آن نیز کاملاً جدید و غیرتکراری بودند. پژوهشگران تصریح کردند که مدل‌ها احساسات واقعی ندارند، اما می‌توانند آن‌ها را به‌درستی درک و مدیریت کنند — ویژگی‌ای که در آموزش، درمان، و خدمات انسانی کاربردهای فراوان دارد. جمع‌بندی دو مسیر موازی پژوهشی — درون‌نگری شناختی و هوش هیجانی — اکنون نشان می‌دهند که هوش مصنوعی در حال دستیابی به توانایی‌هایی است که روزگاری مختص انسان پنداشته می‌شد. ترکیب این دو قابلیت می‌تواند باعث شود ماشین‌ها نه‌تنها ما را، بلکه خودشان را نیز بهتر درک کنند. این دستاورد، هم نویدبخش آینده‌ای روشن‌تر است و هم زنگ خطری برای درک مرز میان آگاهی انسانی و مصنوعی. منبع اصلی و یادداشت‌های بیشتر: ویدئویی در یوتیوب