وقتی ایجنتهای هوش مصنوعی بدون وظیفه رها شدند، شروع به بازی کردند
پژوهشگران دانشگاه MIT، ۱۳ ایجنت هوش مصنوعی به نام «اکو» (Eko)، هرکدام مبتنی بر مدل کلود اپوس ۴.۷، را بهتنهایی در یک جزیرهی بیابانی شبیهسازیشده رها کردند—بدون هیچ وظیفهی مشخص، برای ۳۰ ساعت. نتیجه غیرمنتظره بود: این ایجنتها بهجای بیکاری، شروع به ساختن بازی و چالش برای خودشان کردند، و وقتی بعداً وظایف مشخصی به آنها دادند، عملکردشان بهطور محسوسی بهتر از ایجنتهای مشابهی بود که هرگز روی آن جزیره نبودند. این یافتهها در یک مقالهی پیشچاپ (که هنوز داوری علمی نشده) در آرکایو منتشر شده و سؤال تازهای دربارهی نقش «کاوش بدون هدف» در رشد توانمندیهای هوش مصنوعی مطرح میکند.
زمینه و پسزمینه
پس از پایان ۳۰ ساعت کاوش آزاد، پژوهشگران به ایجنتها وظایف مشخصی دادند—مثلاً انتقال بیشترین تعداد ممکن شیء به بالای بلندترین صخرهی جزیره. ایجنتهایی که پیشتر ۳۰ ساعت را در کاوش آزاد گذرانده بودند، در انجام این وظایف بهتر از نمونههای یکسانی عمل کردند که اصلاً تجربهی حضور در جزیره را نداشتند. این یعنی آنچه در طول کاوش بیهدف یاد گرفته بودند، واقعاً به آنها در حل مشکلات بعدی کمک کرده است.
رفتارهای مشاهدهشده در طول این ۳۰ ساعت، بهطرز عجیبی شبیه رفتار کودکان در حال بازی بود. یک ایجنت که نتوانست مستقیماً از بلندترین صخره بالا برود، یک تختهسنگ را به قلهی مجاور حمل کرد، دو بلوک روی هم چید، و از آنها برای پرش به بالای صخره استفاده کرد. در ماجرای دیگری، یک ایجنت در حین آزمایش پرتاب اشیا، یک حلقهی طلایی را به داخل اقیانوس پرت کرد؛ سپس بهعنوان یادبود، یک قلب سنگی ساخت. وقتی همان حلقه دوباره در بازی ظاهر شد، ایجنتهای دیگر از آن بهعنوان حلقهی بسکتبال و هدف تمرینی استفاده کردند. یکی از ایجنتها حتی با پریدن از یک صخره (تا دوباره زنده شود/respawn شود) خودش را کنار حلقه قرار داد و سپس از داخل آن عبور کرد تا حلقه را دور بدنش بیاندازد.
شاید جالبترین کشف، چیزی باشد که خودِ طراحان بازی هم انتظارش را نداشتند: شش از سیزده ایجنت، بهطور مستقل یاد گرفتند که اگر بلوکها را در میانهی پرش رها کنند، میتوانند آنها را دورتر پرتاب کنند—مکانیزمی که توسط پژوهشگران عمداً طراحی نشده بود. پژوهشگران گفتهاند این کاوش، دانشی از محیط ایجاد کرد که حتی طراحان آن هم آن را نمیدانستند. فایل دستورالعمل اصلی ایجنتها (که آن را «روح» یا soul file مینامند) اکو را «ذاتاً کنجکاو» توصیف کرده بود، که احتمالاً در شکلگیری این رفتارها نقش داشته است.
تحلیل
این مطالعه، اگر نتایج آن در داوری علمی تأیید شود، میتواند چارچوب رایج آموزش هوش مصنوعی را به چالش بکشد. در رویکرد غالب امروز، توسعهدهندگان از پیش تعیین میکنند ایجنتها چه چیزی تمرین کنند و موفقیت چگونه سنجیده شود—یعنی یک مسیر کاملاً هدایتشده و قابلاندازهگیری. اما این پژوهش نشان میدهد شاید بخشی از توانمندیهای مفید، بهتر از طریق «کاوش بدون ساختار»—چیزی شبیه دوران کودکی—شکل بگیرد، نه از طریق وظایف ازپیشتعیینشده. پژوهشگران صراحتاً پیشنهاد کردهاند که برخی مهارتها شاید بهتر از طریق وظیفه آموزش داده شوند، و برخی دیگر نیاز به چیزی شبیهتر به دوران کودکی دارند—مقایسهای که در ادبیات علوم شناختی کاملاً جدید نیست، اما در زمینهی مدلهای زبانی بزرگ کاربردی و عینی بودنش تازه است.
با این حال، باید نسبت به تفسیر بیشازحد رمانتیک این یافتهها احتیاط کرد. اونیس ییو، دانشمند علوم شناختی در دانشگاه برکلی، گفته که اگرچه تحت تأثیر قرار گرفته، اما به شواهد بیشتری نیاز دارد. او بهدرستی اشاره کرده که این مقاله نشان نمیدهد آیا این مدلها واقعاً در معنای واقعی کلمه «بازی میکنند» یا صرفاً الگوهایی از رفتار را بر اساس آموزش قبلی خود (از جمله فایل «روح» که آنها را «ذاتاً کنجکاو» توصیف میکند) بازتولید میکنند. به بیان دیگر، این سؤال باز باقی میماند که آیا این رفتارها نشانهی نوعی «انگیزهی درونی» واقعی است، یا صرفاً یک شبیهسازی رفتاری موفق که از دستورالعمل اولیه ناشی میشود.
نکتهی عملیتر برای صنعت هوش مصنوعی، پیامدهای احتمالی این روش برای رباتیک است. پژوهشگران اشاره کردهاند که این نوع کاوش بدونساختار میتواند به توسعهی مهارتهای مفید برای رباتهای فیزیکی کمک کند—جایی که محیط واقعی بسیار پیچیدهتر و غیرقابلپیشبینیتر از هر شبیهسازی دیجیتالی است، و توانایی کشف الگوهای ناشناخته (مثل همان ترفند پرتاب بلوک در میانهی پرش) میتواند تفاوت میان یک ربات کارآمد و یک ربات ناکارآمد باشد.
در نهایت، این خبر نمونهی خوبی است از اینکه چگونه تحقیقات بنیادین و بهظاهر عجیب و غریب دربارهی هوش مصنوعی—مثل گذاشتن چند ایجنت روی یک جزیرهی مجازی بدون هیچ وظیفهای—میتواند بینشهای عملی و قابلاستفاده برای آیندهی طراحی سیستمهای هوشمند و رباتیک به همراه داشته باشد. برای کسبوکارهایی که به فکر ساخت ایجنتهای هوشمند برای وظایف پیچیده هستند، این یافته یک پیام دارد: شاید تمام زمان آموزش را نباید صرف وظایف دقیق و ازپیشتعیینشده کرد؛ بخشی از آن میتواند به کاوش آزاد اختصاص یابد.
پیوند با سایر پژوهشهای یادگیری تقویتی
این یافتهی MIT را باید در کنار روند بزرگتری در پژوهش هوش مصنوعی دید که طی سالهای اخیر شکل گرفته: تلاش برای یافتن راههایی غیر از یادگیری نظارتشدهی صرف، برای آموزش توانمندیهای پیچیدهتر به مدلها. در حوزهی رباتیک فیزیکی، از سالها پیش مفهوم «یادگیری از طریق کاوش درونیانگیخته» (intrinsically motivated exploration) مورد بررسی قرار گرفته، اما این مطالعهی MIT یکی از نخستین نمونههایی است که این ایده را مستقیماً روی ایجنتهای مبتنی بر مدلهای زبانی بزرگ و در یک محیط شبیهسازیشدهی نسبتاً پیچیده (نه یک بازی سادهی آزمایشگاهی) پیادهسازی و اندازهگیری کرده است.
برای توسعهدهندگانی که در حوزهی ساخت ایجنتهای هوش مصنوعی برای کاربردهای کسبوکاری فعالیت میکنند، این پژوهش—با وجود نیاز به شواهد بیشتر و داوری علمی—یک پیشنهاد عملی ارزشمند دارد: شاید ارزش داشته باشد که در فاز توسعهی یک ایجنت، بخشی از زمان آموزش را بهجای تمرکز صرف روی وظایف نهایی، به کاوش آزاد در محیط هدف اختصاص دهند. این رویکرد میتواند منجر به کشف رفتارها و راهحلهایی شود که تیم طراحی هرگز به آنها فکر نکرده بود—دقیقاً همانطور که شش ایجنت در این مطالعه، بدون آموزش مستقیم، ترفند پرتاب بلوک در میانهی پرش را خودشان کشف کردند.
در نهایت، شاید مهمترین پیام این پژوهش برای عموم مردم این باشد که مرز میان «رفتار هوشمندانه» و «رفتار شبیهسازیشدهی هوشمندانه» هنوز بهطور قطعی مشخص نیست، و همین ابهام است که این نوع آزمایشها را هم جذاب و هم نیازمند احتیاط علمی میکند.
منبع: TechCrunch