مدل اسپک جدید اوپنایآی؛ بازنویسی رفتار هوش مصنوعی حول پنج ارزش
مدل اسپک جدید اوپنایآی؛ بازنویسی قوانین اخلاقی هوش مصنوعی حول پنج ارزش اصلی
اوپنایآی نسخهی بهروزرسانیشدهی سند راهبردی خودش را منتشر کرده که به آن «Model Spec» میگویند؛ سندی عمومی که توضیح میدهد این شرکت چگونه میخواهد مدلهای هوش مصنوعیاش رفتار کنند. مدل اسپک جدید اوپنایآی اکنون حول پنج ارزش بنیادین بازسازی شده است: وفاداری به نیت انسانی، کاهش آسیب، صداقت و شفافیت، عاملیت انسانی، و توجه و دلسوزی. این بازنویسی یکی از مهمترین تلاشهای اوپنایآی برای تعریف دقیقتر مرزهای اخلاقی مدلهایش محسوب میشود، در شرایطی که این مدلها روزبهروز توانمندتر و در تصمیمهای پراهمیتتر زندگی کاربران نقشآفرین میشوند.
زمینه و پسزمینه
اوپنایآی در توضیح این بهروزرسانی نوشته است که با افزایش هوشمندی مدلها و گسترش اقدامات مهمی که این مدلها در دنیای واقعی انجام میدهند، دیگر کافی نیست مدلها صرفاً دستورالعملهای دقیق را دنبال کنند؛ آنها باید نیت و ارزشهای انسانی را هم درک کنند تا در شرایطی که دستورالعمل صریحی وجود ندارد، بتوانند قضاوت درستی داشته باشند و همچنان به نیت و نظارت انسانی وفادار بمانند. مدل اسپک جدید اوپنایآی، بهجای توضیح پراکندهی قواعد مختلف، همهی این قواعد را حول همین پنج ارزش سازماندهی میکند تا منطق پشت رفتار مدل روشنتر باشد.
وفاداری به نیت انسانی بهعنوان پایهی این رویکرد معرفی شده است: اوپنایآی سند را مینویسد و مرزها را تعیین میکند، توسعهدهندگان درون همان مرزها اپلیکیشنهایشان را هدایت میکنند، و کاربران نهایی هم در همان چارچوب، کار مدل را مدیریت میکنند. طبق این سند، مدلها باید فراتر از پیروی لفظی از دستورالعمل بروند و واقعاً درک کنند که اوپنایآی، توسعهدهندگان و کاربران چه نیت و ارزشی دارند، و زمانی که این درک کامل نیست، باید هوشمندانه عمل کنند.
تحلیل: چهار ارزش تکمیلی و معنای عملی آنها
سند تازه چهار ارزش دیگر را هم برای تکمیل وفاداری به نیت انسانی معرفی میکند. کاهش آسیب بهمعنای احترام به مرزهای امنیتی قطعی و در نظر گرفتن پیامدهای قابلپیشبینی اقدامات مدل است. صداقت و شفافیت یعنی مدل باید دربارهی آنچه میداند، انجام میدهد و نسبت به آن مطمئن نیست، صادق باشد تا کاربران بتوانند استدلال و کار آن را ارزیابی کنند. تقویت عاملیت انسانی بهمعنای افزایش توان افراد برای درک، انتخاب و اقدام مستقل خودشان است، نه جایگزین شدن بهجای تصمیمگیری آنها. و در نهایت، دلسوزی بهمعنای توجه به شرایط افرادی است که از نتیجهی کار مدل تأثیر میپذیرند، رعایت هنجارهای اجتماعی و حرفهای مرتبط، و تولید کاری است که افراد بتوانند به آن اعتماد کنند.
یکی از جالبتوجهترین بخشهای این بهروزرسانی، معرفی بخش تازهای با عنوان «در نظر گرفتن دقیق زمینه» (consider context carefully) است که توضیح میدهد چگونه گفتگوها، حافظهی مدل از تعاملات قبلی، و دیگر شواهد زمینهای باید در درک مدل از نیت و ترجیحات افراد نقش داشته باشند. برای مثال، وقتی مدل به کاربری کمک میکند گزینههای شغلیاش را مقایسه کند، میتواند از ترجیحات قبلی او، مثل اهمیت ساعات کاری قابلپیشبینی، استفاده کند، اما باید این فرضیات را بهوضوح بیان کند تا کاربر بتواند آنها را اصلاح کند. این رویکرد تلاشی برای جلوگیری از دو خطر مخالف است: مدلی که صرفاً دستورات را بهشکل مکانیکی اجرا میکند، و مدلی که بیش از حد بهشکل پنهان کاربر را به سمت خاصی هدایت میکند.
نکتهی مهم دیگر اینکه اوپنایآی بخش بزرگی از دستورالعملهای دقیق سبک نوشتاری (style) را از این سند حذف کرده است. به گفتهی این شرکت، سبک پاسخدهی باید متناسب با ترجیحات افراد تغییر کند، هم در کل جامعه و فرهنگهای مختلف و هم برای هر فرد بهطور خاص؛ و بازخورد کاربران و زمینهی گفتگو باید شواهد اصلی برای تشخیص این ترجیحات باشند. با این حال، سند همچنان بر برخی پیشفرضهای قویتر تأکید دارد، مثل رویکرد عینی به پرسشها؛ یعنی مدل نباید صرفاً حدس بزند کاربر چه پاسخی را دوست دارد و بر اساس آن حدس، دیدگاهی را بهطور یکجانبه اتخاذ کند، مگر آنکه کاربر یا توسعهدهنده صریحاً از آن بخواهد که از یک زاویهی خاص به موضوع نگاه کند.
از نظر نامگذاری هم تغییری جالب رخ داده: اوپنایآی از این پس در این سند بهجای «دستیار» (the assistant) از واژهی «GPT» برای اشاره به مدل استفاده میکند. این تغییر کوچک در واقع بازتابدهندهی گستردگی روزافزون کاربردها و زمینههای استقرار مدلهای این شرکت است؛ مدلهایی که دیگر صرفاً در قالب یک «دستیار چت» محدود نمیشوند، بلکه در قالب ایجنتهای خودکار، ابزارهای کدنویسی و سامانههای پیچیدهی سازمانی هم به کار گرفته میشوند.
اوپنایآی تأکید کرده که این بهروزرسانی تنها قدمی اول در مسیر شفافتر کردن ارزشها و استدلال پشت این سند است و مدلهای فعلی این شرکت هنوز بهطور کامل با آنچه در سند توصیف شده همخوانی ندارند. این شرکت همچنین اعلام کرده که در حال بررسی روشهای آموزشی تازهای است تا مدلها بتوانند این ارزشهای بنیادین را بهتر یاد بگیرند و دلیل اهمیت هر اصل رفتاری را درک کنند، نه فقط اینکه آن را بهشکل مکانیکی دنبال کنند.
برای کاربران و توسعهدهندگان ایرانی که از ابزارهای اوپنایآی استفاده میکنند، این بهروزرسانی یک پیام مهم دارد: رفتار مدلهای چتجیپیتی در آینده احتمالاً انعطاف بیشتری در لحن و سبک نسبت به ترجیحات فردی و فرهنگی نشان خواهد داد، اما در عین حال مرزهای امنیتی و اخلاقی ثابتتر و شفافتری هم اعمال خواهد شد. کسانی که اپلیکیشنهایی بر پایهی مدلهای اوپنایآی میسازند، باید این تغییرات را در طراحی تجربهی کاربری و انتظارات رفتاری محصولشان هم در نظر بگیرند، چرا که این سند مستقیماً بر نحوهی واکنش مدل در موقعیتهای مبهم یا بدون دستورالعمل صریح اثر میگذارد.
چرا این سند برای عموم کاربران هم اهمیت دارد
شاید در نگاه اول، سندی با عنوان «Model Spec» بیشتر برای مهندسان و پژوهشگران هوش مصنوعی جالب به نظر برسد تا کاربران عادی چتجیپیتی. اما واقعیت این است که همین سند، پایهی تصمیمهایی است که هر روز در تعامل میلیونها کاربر با این ابزار اتفاق میافتد: چرا مدل گاهی از پاسخ به یک پرسش حساس خودداری میکند، چرا در برخی موارد توضیح بیشتری میدهد و در برخی دیگر مستقیم به سراغ پاسخ میرود، و چرا گاهی بهجای پاسخ قطعی، چند گزینه را مطرح میکند. درک این پنج ارزش بنیادین به کاربران کمک میکند بفهمند رفتار مدل تصادفی نیست، بلکه بازتاب یک چارچوب فکری از پیش تعیینشده است.
این شفافیت همچنین زمینه را برای بازخورد عمومیتر فراهم میکند. اوپنایآی صریحاً از کاربران و توسعهدهندگان خواسته تا نظرشان را دربارهی اینکه کدام بخشهای سند را قانعکننده میدانند، کجا با توازن انتخابشده مخالفاند، و چه نکاتی از قلم افتاده، اعلام کنند. این رویکرد مشارکتی، حداقل در ظاهر، نشان میدهد اوپنایآی تلاش میکند قوانین رفتاری هوش مصنوعی را نه بهشکل یکجانبه از بالا به پایین، بلکه با دریافت ورودی از جامعهی کاربری جهانیاش شکل دهد؛ رویکردی که در آینده میتواند الگویی برای سایر شرکتهای بزرگ هوش مصنوعی هم باشد.
در مجموع، بازنویسی مدل اسپک جدید اوپنایآی نشان میدهد که صنعت هوش مصنوعی وارد فاز پیچیدهتری از حکمرانی رفتاری شده است؛ فازی که در آن صرفاً تعیین قوانین سطحی مثل «این کار را بکن، آن کار را نکن» دیگر کافی نیست، و باید به سمت تعریف ارزشهای بنیادینتری حرکت کرد که بتوانند راهنمای مدل در موقعیتهای پیشبینینشده هم باشند. برای کاربران فارسیزبان، آگاهی از این تغییرات میتواند به درک بهتر رفتار چتجیپیتی در تعاملات روزمره کمک کند و انتظارات واقعبینانهتری از قابلیتها و محدودیتهای آن ایجاد کند.
منبع: OpenAI