ChatGPT چگونه به وجود آمد؟

امروز کمتر کسی است که نام ChatGPT را نشنیده باشد. ابزاری که می‌تواند به سؤال‌های مختلف پاسخ دهد، متن بنویسد، اطلاعات را خلاصه کند، به برنامه‌نویسی کمک کند، ایده بدهد، داده‌ها را تحلیل کند و حتی در انجام بسیاری از فعالیت‌های روزمره و حرفه‌ای نقش یک دستیار هوشمند را داشته باشد.

اما ChatGPT یک‌شبه ساخته نشد. چیزی که امروز به شکل یک محیط گفت‌وگوی ساده در اختیار میلیون‌ها کاربر قرار گرفته، نتیجه چندین سال تحقیق در زمینه یادگیری ماشین، پردازش زبان طبیعی، مدل‌های زبانی بزرگ و روش‌های آموزش هوش مصنوعی با استفاده از بازخورد انسان است.

برای اینکه بفهمیم ChatGPT چگونه به وجود آمد، باید چند سال به عقب برگردیم؛ زمانی که مدل‌های هوش مصنوعی هنوز نمی‌توانستند به این شکل طبیعی با انسان صحبت کنند.

قبل از ChatGPT؛ مشکل اصلی چه بود؟

یکی از اهداف قدیمی پژوهشگران هوش مصنوعی این بود که کامپیوترها بتوانند زبان انسان را درک کنند. این حوزه که معمولاً با عنوان پردازش زبان طبیعی یا NLP شناخته می‌شود، مجموعه‌ای از مسائل مختلف مانند ترجمه، پاسخ به سؤال، خلاصه‌سازی، طبقه‌بندی متن و تحلیل زبان را شامل می‌شود.

مدل‌های قدیمی معمولاً برای هرکدام از این وظایف به‌صورت جداگانه آموزش داده می‌شدند. برای مثال ممکن بود یک سیستم فقط برای ترجمه طراحی شود و سیستم دیگری برای تشخیص احساسات موجود در یک متن.

این روش یک مشکل بزرگ داشت: برای هر وظیفه به حجم قابل‌توجهی داده برچسب‌گذاری‌شده و آموزش اختصاصی نیاز بود.

یکی از ایده‌هایی که مسیر هوش مصنوعی را تغییر داد این بود که به جای ساخت یک مدل جداگانه برای هر کار، ابتدا یک مدل بزرگ را با حجم زیادی از متن آموزش دهیم تا ساختار زبان را یاد بگیرد و سپس آن را برای کارهای مختلف مورد استفاده قرار دهیم.

پژوهش OpenAI در سال ۲۰۱۸ نشان داد که ترکیب پیش‌آموزش یک مدل زبانی روی حجم بزرگی از متن و سپس تنظیم آن برای وظایف مشخص می‌تواند در مجموعه‌ای از مسائل پردازش زبان نتایج قابل‌توجهی ایجاد کند. در همین پژوهش از معماری Transformer استفاده شد؛ معماری‌ای که بعدها اساس خانواده مدل‌های GPT شد.

این نقطه را می‌توان یکی از مراحل مهم در مسیری دانست که چند سال بعد به ChatGPT رسید.

GPT چه بود و چرا اهمیت داشت؟

خانواده مدل‌هایی که بعدها با نام GPT شناخته شدند، بر یک ایده نسبتاً ساده اما بسیار قدرتمند متکی بودند: مدل حجم زیادی متن می‌بیند و یاد می‌گیرد با توجه به کلمات قبلی، ادامه متن را پیش‌بینی کند.

فرض کنید جمله‌ای به مدل داده شود:

«امروز هوا بسیار...»

مدل تلاش می‌کند حدس بزند کلمه بعدی چه چیزی می‌تواند باشد؛ مثلاً «گرم»، «سرد» یا «خوب».

این کار در نگاه اول شاید چندان پیچیده به نظر نرسد. اما زمانی که این تمرین در مقیاس بسیار بزرگ و روی حجم عظیمی از متن انجام شود، مدل به‌تدریج الگوهای بسیار پیچیده‌ای از زبان را یاد می‌گیرد.

مدل باید برای پیش‌بینی مناسب ادامه یک متن، چیزهای زیادی درباره دستور زبان، ارتباط میان واژه‌ها، ساختار جملات، سبک‌های نوشتاری و بسیاری از روابط موجود در متن یاد بگیرد.

نتیجه این بود که مدل زبانی دیگر فقط یک ابزار ساده برای تکمیل جمله نبود؛ قابلیت‌هایی به دست می‌آورد که می‌شد از آنها در مسائل مختلف استفاده کرد.

GPT-۲؛ زمانی که تولید متن جدی‌تر شد

در فوریه ۲۰۱۹، OpenAI نسل بعدی این خانواده یعنی GPT-۲ را معرفی کرد.

GPT-۲ یک مدل مبتنی بر Transformer با حدود ۱.۵ میلیارد پارامتر بود که روی مجموعه‌ای شامل حدود ۸ میلیون صفحه وب آموزش دیده بود. وظیفه اصلی آن همچنان پیش‌بینی ادامه متن بود، اما افزایش مقیاس مدل و داده‌های آموزشی باعث شده بود کیفیت متن تولیدشده نسبت به نسل‌های قبلی به شکل قابل‌توجهی افزایش پیدا کند.

OpenAI در زمان معرفی GPT-۲ نشان داد که این مدل می‌تواند فقط با دریافت یک متن اولیه، ادامه‌ای نسبتاً طولانی و منسجم برای آن تولید کند.

نکته جالب‌تر این بود که GPT-۲ بدون اینکه برای تمام وظایف به‌طور اختصاصی آموزش دیده باشد، نشانه‌هایی از توانایی در کارهایی مانند پاسخ به سؤال، درک مطلب، خلاصه‌سازی و ترجمه نشان می‌داد.

این اتفاق یک پیام مهم داشت:

اگر مدل‌های زبانی بزرگ‌تر شوند و روی داده بیشتری آموزش ببینند، ممکن است قابلیت‌هایی پیدا کنند که مستقیماً برای آنها برنامه‌ریزی نشده است.

همین ایده زمینه را برای نسل بسیار بزرگ‌تری از مدل‌های زبانی فراهم کرد.

GPT-۳؛ جهش بزرگ مدل‌های زبانی

در سال ۲۰۲۰ اتفاق مهم دیگری رخ داد. OpenAI مدل GPT-۳ را معرفی کرد.

GPT-۳ با ۱۷۵ میلیارد پارامتر بسیار بزرگ‌تر از GPT-۲ بود. OpenAI نشان داد که افزایش مقیاس مدل باعث می‌شود توانایی آن برای انجام وظایف مختلف تنها با مشاهده چند نمونه یا حتی یک دستور متنی بهتر شود.

یکی از ویژگی‌های مهم GPT-۳ این بود که برای انجام بسیاری از کارها دیگر لزوماً نیازی به آموزش اختصاصی مدل وجود نداشت.

کاربر می‌توانست در همان متن ورودی توضیح دهد چه چیزی می‌خواهد.

برای مثال:

«متن زیر را خلاصه کن.»

یا:

«این جمله را به انگلیسی ترجمه کن.»

یا حتی چند مثال به مدل نشان دهد و سپس از آن بخواهد نمونه مشابهی تولید کند.

این رویکرد که با مفاهیمی مانند Zero-shot و Few-shot Learning شناخته می‌شود، مدل‌های زبانی را بسیار انعطاف‌پذیرتر کرد. OpenAI گزارش کرد که GPT-۳ در مجموعه‌ای از وظایف شامل ترجمه، پاسخ به سؤال و برخی فعالیت‌هایی که نیازمند استدلال یا سازگاری با مسئله بودند عملکرد قابل‌توجهی داشت.

با این حال، هنوز یک مشکل اساسی وجود داشت.

GPT-۳ یک مدل زبانی قدرتمند بود، اما الزاماً دستیار خوبی برای انسان نبود.

چرا GPT-۳ هنوز ChatGPT نبود؟

برای فهم تفاوت GPT-۳ و ChatGPT باید به نحوه آموزش مدل توجه کنیم.

مدل پایه GPT-۳ عمدتاً برای پیش‌بینی ادامه متن آموزش دیده بود. هدف اصلی آن این نبود که دقیقاً متوجه شود کاربر چه می‌خواهد و سپس بهترین پاسخ ممکن را ارائه کند.

برای نمونه، اگر کاربر سؤالی می‌پرسید، از دید یک مدل زبانی این سؤال فقط قطعه‌ای از متن بود که باید ادامه پیدا کند.

این موضوع باعث می‌شد مدل گاهی پاسخ‌هایی ارائه دهد که از نظر زبانی بسیار خوب بودند، اما لزوماً با هدف کاربر هماهنگ نبودند.

OpenAI توضیح داده است که مدل پایه GPT-۳ اساساً برای پیش‌بینی کلمه بعدی در حجم بزرگی از متن اینترنت آموزش دیده بود، نه برای اینکه الزاماً دستور کاربران را به‌صورت ایمن و مطلوب اجرا کند.

برای ساخت چیزی شبیه یک دستیار هوشمند، یک مرحله دیگر لازم بود:

مدل باید یاد می‌گرفت انسان چه نوع پاسخی را ترجیح می‌دهد.

این مسئله زمینه‌ساز توسعه InstructGPT شد.

InstructGPT؛ حلقه گمشده میان GPT-۳ و ChatGPT

در ژانویه ۲۰۲۲، OpenAI نتایج پروژه‌ای به نام InstructGPT را منتشر کرد.

هدف این پروژه نسبتاً روشن بود: مدل باید به جای اینکه فقط ادامه متن را پیش‌بینی کند، یاد بگیرد دستور کاربر را بهتر دنبال کند.

اینجا انسان‌ها نقش بسیار مهمی در فرآیند آموزش پیدا کردند.

در مرحله اول، ارزیاب‌ها و آموزش‌دهندگان انسانی نمونه‌هایی از پاسخ مناسب به درخواست‌های مختلف ایجاد کردند.

سپس مدل با استفاده از این نمونه‌ها تنظیم شد.

اما مرحله مهم‌تر زمانی بود که چند پاسخ مختلف از مدل در اختیار ارزیاب‌های انسانی قرار گرفت و آنها مشخص کردند کدام پاسخ را بیشتر ترجیح می‌دهند.

در نتیجه مدل فقط از متن یاد نمی‌گرفت؛ بلکه از ترجیحات انسان‌ها نیز اطلاعات دریافت می‌کرد.

OpenAI گزارش کرد که InstructGPT در دنبال‌کردن دستورات کاربران بهتر از GPT-۳ عمل می‌کرد و ارزیاب‌های انسانی حتی در برخی آزمایش‌ها خروجی مدل InstructGPT با ۱.۳ میلیارد پارامتر را به خروجی GPT-۳ با ۱۷۵ میلیارد پارامتر ترجیح می‌دادند.

این نتیجه نکته مهمی را نشان داد:

بزرگ‌ترکردن مدل تنها راه پیشرفت نیست؛ نحوه آموزش و همسوکردن مدل با خواسته‌های انسان نیز اهمیت زیادی دارد.

RLHF چیست و چه نقشی در ساخت ChatGPT داشت؟

یکی از مهم‌ترین فناوری‌هایی که در مسیر شکل‌گیری ChatGPT مورد استفاده قرار گرفت، Reinforcement Learning from Human Feedback یا به اختصار RLHF بود.

ترجمه ساده آن می‌شود:

یادگیری تقویتی از بازخورد انسانی.

ایده کلی را می‌توان ساده توضیح داد.

فرض کنید هوش مصنوعی برای یک سؤال چهار پاسخ مختلف ایجاد کند.

چند انسان این پاسخ‌ها را بررسی می‌کنند و آنها را از بهترین تا بدترین مرتب می‌کنند.

با تکرار این فرآیند برای تعداد زیادی مثال، می‌توان مدلی ایجاد کرد که یاد بگیرد انسان‌ها معمولاً چه نوع پاسخی را بهتر می‌دانند.

این مدل به اصطلاح Reward Model یا مدل پاداش نامیده می‌شود.

سپس مدل اصلی با استفاده از این سیگنال پاداش تنظیم می‌شود تا احتمال تولید پاسخ‌هایی که انسان‌ها ترجیح می‌دهند افزایش پیدا کند.

در فرآیند InstructGPT، OpenAI ابتدا نمونه پاسخ‌های انسانی را جمع‌آوری کرد، سپس مقایسه‌های انسانی میان خروجی‌های مختلف مدل را به دست آورد، با استفاده از آنها مدل پاداش ساخت و در نهایت مدل زبانی را با الگوریتم PPO تنظیم کرد.

این روش یکی از پایه‌های مهم آموزشی ChatGPT شد.

تولد ChatGPT در سال ۲۰۲۲

سرانجام در ۳۰ نوامبر ۲۰۲۲، OpenAI محصولی با نام ChatGPT را به‌عنوان یک نسخه پژوهشی در اختیار عموم قرار داد.

این بار کاربران دیگر با یک API یا مدل تحقیقاتی پیچیده روبه‌رو نبودند.

یک صفحه ساده وجود داشت.

کاربر چیزی می‌نوشت و هوش مصنوعی پاسخ می‌داد.

می‌توانست سؤال دوم را بر اساس پاسخ قبلی بپرسد، ایراد پاسخ را مطرح کند یا مکالمه را ادامه دهد.

OpenAI هنگام معرفی ChatGPT اعلام کرد که ساختار مکالمه‌ای این مدل به آن اجازه می‌دهد به سؤالات بعدی پاسخ دهد، اشتباه خود را بپذیرد، برخی فرض‌های نادرست را به چالش بکشد و بعضی درخواست‌های نامناسب را رد کند.

همین رابط مکالمه‌ای ساده تفاوت بزرگی ایجاد کرد.

فناوری مدل‌های زبانی پیش از آن وجود داشت، اما ChatGPT استفاده از این فناوری را برای تعداد بسیار بیشتری از کاربران قابل‌دسترس کرد.

اولین ChatGPT بر پایه چه مدلی ساخته شده بود؟

نسخه اولیه ChatGPT بر پایه مدلی از خانواده GPT-۳.۵ ساخته شده بود.

OpenAI اعلام کرد که آموزش مدل GPT-۳.۵ مورد استفاده برای ChatGPT در اوایل سال ۲۰۲۲ تکمیل شده بود و ChatGPT با روش‌هایی مشابه InstructGPT و با استفاده از RLHF تنظیم شده بود.

در فرآیند ساخت نسخه اولیه، مربیان انسانی مکالماتی ایجاد کردند که در آنها هم نقش کاربر و هم نقش دستیار هوش مصنوعی را برعهده می‌گرفتند.

سپس برای بهبود مدل، چند پاسخ مختلف تولید می‌شد و ارزیاب‌های انسانی آنها را بر اساس کیفیت مرتب می‌کردند.

این اطلاعات برای ایجاد مدل پاداش مورد استفاده قرار گرفت و فرآیند تنظیم مدل چند بار تکرار شد.

بنابراین اگر بخواهیم ساده بگوییم:

ChatGPT حاصل ترکیب یک مدل زبانی بزرگ با آموزش مبتنی بر مکالمه و ترجیحات انسانی بود.

چرا ChatGPT با مدل‌های قبلی متفاوت به نظر می‌رسید؟

یکی از جذاب‌ترین ویژگی‌های ChatGPT این بود که کاربر دیگر لازم نبود متخصص یادگیری ماشین باشد.

تعامل با مدل بسیار شبیه ارسال پیام به یک انسان بود.

مثلاً می‌شد نوشت:

«یک برنامه سفر سه‌روزه برای من بنویس.»

سپس گفت:

«هزینه‌ها را کمتر کن.»

بعد ادامه داد:

«نسخه نهایی را به شکل جدول بده.»

مدل می‌توانست ادامه مکالمه را بر اساس زمینه قبلی دنبال کند.

این ساختار تجربه کاربری هوش مصنوعی را به‌طور اساسی تغییر داد. قابلیت‌هایی که قبلاً بیشتر برای پژوهشگران، برنامه‌نویسان و استفاده‌کنندگان API قابل‌دسترسی بود، پشت یک کادر گفت‌وگوی بسیار ساده قرار گرفت.

عامل مهم دیگر انعطاف‌پذیری مدل بود.

یک ابزار واحد می‌توانست در نوشتن، خلاصه‌سازی، ایده‌پردازی، آموزش، ترجمه، برنامه‌نویسی و تعداد زیادی فعالیت دیگر استفاده شود.

در واقع ChatGPT یک نرم‌افزار با یک وظیفه مشخص نبود؛ بیشتر شبیه یک رابط عمومی برای استفاده از یک مدل هوش مصنوعی عمل می‌کرد.

آیا ChatGPT واقعاً مطالب را «می‌فهمد»؟

یکی از سؤال‌های رایج درباره ChatGPT این است که آیا این سیستم واقعاً مانند انسان مطالب را درک می‌کند یا فقط کلمات را کنار یکدیگر قرار می‌دهد.

پاسخ ساده این است که سازوکار مدل‌های زبانی با تفکر انسان یکسان نیست.

مدل طی فرآیند آموزش روابط آماری و ساختاری بسیار پیچیده‌ای میان توکن‌ها و الگوهای موجود در داده‌ها یاد می‌گیرد. سپس هنگام پاسخ‌گویی، با توجه به ورودی و زمینه موجود، خروجی تولید می‌کند.

اما عبارت «فقط کلمه بعدی را حدس می‌زند» نیز ممکن است تصویر بیش از حد ساده‌ای ایجاد کند.

زمانی که یک مدل بسیار بزرگ این کار را در مقیاس وسیع انجام می‌دهد، برای پیش‌بینی مناسب متن ناچار است مجموعه بزرگی از روابط زبانی، مفهومی و ساختاری را در پارامترهای خود بازنمایی کند.

همین موضوع باعث می‌شود رفتارهایی مانند توضیح مفاهیم، خلاصه‌کردن، بازنویسی، مقایسه یا حل بسیاری از مسائل متنی از مدل مشاهده شود.

با این حال، روان بودن یک پاسخ به معنی درست بودن آن نیست.

مشکل توهم یا Hallucination از کجا آمد؟

یکی از محدودیت‌هایی که از همان روز معرفی ChatGPT نیز به آن اشاره شد، تولید پاسخ‌های ظاهراً منطقی اما اشتباه بود.

OpenAI هنگام عرضه اولیه ChatGPT به‌صراحت اعلام کرد که این مدل ممکن است پاسخ‌هایی تولید کند که قابل‌باور به نظر می‌رسند اما نادرست یا بی‌معنا هستند.

این مسئله بعدها با عنوان Hallucination یا توهم مدل‌های زبانی شناخته شد.

دلیل ساده آن این است که هدف مدل اساساً تولید یک ادامه مناسب برای متن است. مدل الزاماً مانند یک پایگاه داده عمل نمی‌کند که همیشه اطلاعات را از یک منبع قطعی استخراج کند.

به همین دلیل، اگر اطلاعات کافی نداشته باشد ممکن است پاسخی تولید کند که از نظر ساختار بسیار طبیعی اما از نظر واقعیت نادرست است.

نسل‌های بعدی مدل‌ها در کاهش این مشکل پیشرفت کردند، اما این مسئله به‌طور کامل از میان نرفته است. برای نمونه، OpenAI هنگام معرفی GPT-۴ گزارش کرد که این مدل نسبت به GPT-۳.۵ در ارزیابی‌های داخلی واقعیت‌سنجی عملکرد بهتری داشت، در عین حال همچنان ممکن بود اشتباه کند.

ورود GPT-۴ و ادامه تکامل ChatGPT

چند ماه بعد از عرضه اولیه ChatGPT، در مارس ۲۰۲۳، OpenAI مدل GPT-۴ را معرفی کرد.

GPT-۴ در مقایسه با نسل‌های قبلی قابلیت‌های بیشتری داشت و OpenAI آن را یک مدل چندوجهی معرفی کرد که می‌توانست ورودی متن و تصویر دریافت کند و خروجی متنی تولید کند.

استفاده از GPT-۴ در ChatGPT نشان داد که «ChatGPT» و «GPT» دقیقاً یک چیز نیستند.

این تفاوت مهم است.

GPT نام خانواده‌ای از مدل‌های هوش مصنوعی است، در حالی که ChatGPT محصول و محیطی است که امکان تعامل با مدل‌های مختلف را از طریق گفت‌وگو فراهم می‌کند.

به همین دلیل با تغییر نسل مدل‌ها، ChatGPT نیز می‌تواند قابلیت‌های جدیدی پیدا کند بدون اینکه نام اصلی محصول تغییر کند.

آیا ChatGPT همان GPT است؟

خیر.

این دو اصطلاح ارتباط نزدیکی دارند اما مترادف نیستند.

برای ساده‌شدن موضوع می‌توان خودرو را مثال زد.

موتور خودرو بخشی از فناوری اصلی است، اما خودروی نهایی علاوه بر موتور، رابط‌های کنترلی، طراحی، تجهیزات و سیستم‌های دیگری نیز دارد.

به شکل مشابه، یک مدل GPT موتور اصلی تولید و پردازش زبان است، در حالی که ChatGPT محصولی است که مدل را در قالب یک تجربه مکالمه‌ای در اختیار کاربر قرار می‌دهد.

در طول زمان امکانات مختلف دیگری نیز می‌توانند به این محصول اضافه شوند؛ بنابراین توانایی ChatGPT لزوماً محدود به ویژگی‌های خام یک مدل زبانی نیست.

چرا ChatGPT تا این اندازه مورد توجه قرار گرفت؟

بخش قابل‌توجهی از موفقیت ChatGPT را نمی‌توان فقط با قدرت مدل توضیح داد.

سادگی استفاده عامل بسیار مهمی بود.

برای اولین بار تعداد زیادی از کاربران بدون دانش برنامه‌نویسی توانستند مستقیماً با یکی از قدرتمندترین مدل‌های زبانی موجود تعامل کنند.

دیگر لازم نبود کاربر مفهوم API، یادگیری ماشین یا شبکه عصبی را بداند.

کافی بود سؤالش را به زبان معمولی بنویسد.

ChatGPT همچنین یک ویژگی مهم دیگر داشت: کاربرد آن از قبل محدود نشده بود.

یک دانشجو می‌توانست برای توضیح یک مفهوم از آن کمک بگیرد.

یک برنامه‌نویس می‌توانست خطای کد را بررسی کند.

یک مدیر می‌توانست پیش‌نویس گزارش تهیه کند.

یک تولیدکننده محتوا می‌توانست ایده بگیرد.

و یک پژوهشگر می‌توانست برای سازمان‌دهی اولیه اطلاعات از آن استفاده کند.

همین عمومی‌بودن کاربرد، مدل‌های زبانی را از یک فناوری تخصصی به ابزاری قابل‌استفاده برای طیف وسیعی از مردم تبدیل کرد.

OpenAI بعدها گزارش کرد که ChatGPT در ماه‌های پس از عرضه رشد بسیار سریعی را تجربه کرد و به ده‌ها میلیون و سپس صدها میلیون کاربر رسید.

آیا انسان‌ها در ساخت ChatGPT نقش داشتند؟

بله؛ و نقش آنها فقط به نوشتن کد محدود نبود.

یکی از نکات مهم در فرآیند شکل‌گیری ChatGPT حضور انسان‌ها در مرحله آموزش و ارزیابی مدل بود.

ارزیاب‌ها نمونه پاسخ تهیه کردند، پاسخ‌های مختلف مدل را مقایسه کردند و ترجیحات خود را در اختیار فرآیند آموزشی قرار دادند.

این بازخورد کمک کرد مدل بهتر یاد بگیرد که چه پاسخ‌هایی مفیدتر و مطلوب‌تر هستند. OpenAI در توضیح InstructGPT و ChatGPT این فرآیند انسانی را یکی از اجزای اصلی آموزش معرفی کرده است.

بنابراین ChatGPT را نمی‌توان صرفاً نتیجه افزایش قدرت کامپیوترها دانست.

سه عامل در کنار یکدیگر اهمیت داشتند:

مدل‌های بزرگ‌تر، حجم زیادی از داده و بازخورد انسانی.

مسیر شکل‌گیری ChatGPT را می‌توان چگونه خلاصه کرد؟

اگر بخواهیم تمام این تاریخچه را در چند مرحله خلاصه کنیم، مسیر تقریباً به این شکل است:

مرحله اول: پیش‌آموزش مدل‌های زبانی

مدل یاد گرفت با مشاهده حجم زیادی از متن، الگوهای زبان را استخراج کند.

مرحله دوم: GPT

OpenAI نشان داد که یک مدل از پیش آموزش‌دیده می‌تواند برای مجموعه‌ای از وظایف زبانی استفاده شود.

مرحله سوم: GPT-۲

بزرگ‌ترشدن مدل نشان داد که با افزایش مقیاس، توانایی تولید متن و انجام برخی وظایف بدون آموزش اختصاصی افزایش پیدا می‌کند.

مرحله چهارم: GPT-۳

مدل بسیار بزرگ‌تر شد و قابلیت انجام وظایف از طریق دستور متنی و تعداد کمی مثال به شکل جدی‌تری ظاهر شد.

مرحله پنجم: InstructGPT

بازخورد انسانی وارد فرآیند شد تا مدل بهتر بتواند دستور کاربران را دنبال کند.

مرحله ششم: ChatGPT

همین فناوری در قالب یک رابط مکالمه‌ای ساده و عمومی در اختیار کاربران قرار گرفت. نسخه اولیه در ۳۰ نوامبر ۲۰۲۲ منتشر شد و بر خانواده GPT-۳.۵ تکیه داشت.

مهم‌ترین نوآوری ChatGPT چه بود؟

ممکن است تصور شود مهم‌ترین نوآوری ChatGPT صرفاً بزرگ‌ترشدن مدل بوده است، اما داستان کمی پیچیده‌تر است.

بخش مهمی از فناوری اصلی پیش از ChatGPT وجود داشت.

GPT-۳ بیش از دو سال قبل از عرضه ChatGPT معرفی شده بود. تکنیک‌های آموزش مدل با بازخورد انسان نیز در پروژه InstructGPT توسعه یافته بودند.

کاری که ChatGPT انجام داد، ترکیب چند عنصر مهم بود:

یک مدل زبانی قدرتمند، آموزش برای دنبال‌کردن دستورات، بازخورد انسانی و یک رابط مکالمه‌ای بسیار ساده.

این ترکیب باعث شد فناوری‌ای که تا حد زیادی در فضای تحقیقاتی و توسعه نرم‌افزار قرار داشت، وارد استفاده روزمره شود.

به همین دلیل می‌توان گفت تحول ChatGPT فقط یک تحول فنی نبود؛ یک تحول در روش تعامل انسان با هوش مصنوعی نیز بود.

آینده‌ای که با ChatGPT شروع شد

عرضه ChatGPT نقطه پایان توسعه مدل‌های زبانی نبود؛ بیشتر شبیه نقطه شروع مرحله جدیدی از استفاده عمومی از هوش مصنوعی بود.

پس از آن، مفهوم هوش مصنوعی مولد به یکی از مهم‌ترین حوزه‌های فناوری تبدیل شد و استفاده از مدل‌های هوش مصنوعی در تولید محتوا، برنامه‌نویسی، تحلیل داده، تحقیق، آموزش و بسیاری از فعالیت‌های حرفه‌ای گسترش پیدا کرد.

مدل‌های جدیدتر نیز به تدریج قابلیت‌هایی فراتر از پردازش متن پیدا کردند و تعامل با تصویر، صوت، فایل‌ها و ابزارهای مختلف به بخشی از تجربه استفاده از هوش مصنوعی تبدیل شد.

اما بخش مهمی از این تحول را می‌توان به همان تصمیم ساده در سال ۲۰۲۲ مرتبط دانست:

قرار دادن یک مدل زبانی پیشرفته پشت یک صفحه گفت‌وگوی ساده.

جمع‌بندی؛ ChatGPT چگونه به وجود آمد؟

ChatGPT محصول یک کشف ناگهانی نبود.

این سیستم نتیجه چند سال تکامل مدل‌های زبانی بود.

ابتدا پژوهشگران نشان دادند که مدل‌های مبتنی بر Transformer می‌توانند با پیش‌آموزش روی حجم زیادی از متن، دانش زبانی قابل‌انتقالی به دست آورند. سپس GPT-۲ نشان داد بزرگ‌ترکردن مدل چه تأثیری بر کیفیت تولید متن دارد. GPT-۳ این ایده را در مقیاسی بسیار بزرگ‌تر ادامه داد و قابلیت استفاده از دستورها و مثال‌های متنی را تقویت کرد.

اما هنوز یک حلقه مهم وجود نداشت: مدل باید بهتر متوجه می‌شد انسان از آن چه می‌خواهد.

InstructGPT و روش RLHF این فاصله را کاهش دادند و بازخورد انسانی را مستقیماً وارد فرآیند تنظیم مدل کردند.

سرانجام OpenAI در ۳۰ نوامبر ۲۰۲۲ این فناوری را در قالب ChatGPT در اختیار عموم قرار داد. نسخه اولیه بر مدلی از خانواده GPT-۳.۵ تکیه داشت و برای مکالمه با کاربران با استفاده از روش‌های مبتنی بر بازخورد انسانی تنظیم شده بود.

بنابراین اگر بخواهیم پاسخ سؤال «ChatGPT چگونه به وجود آمد؟» را در یک جمله بیان کنیم:

ChatGPT حاصل تکامل چند نسل از مدل‌های GPT، افزایش مقیاس مدل‌های زبانی، آموزش برای دنبال‌کردن دستورات و استفاده از بازخورد انسانی برای تبدیل یک مدل تولید متن به یک دستیار مکالمه‌ای بود.

همین ترکیب، نحوه تعامل میلیون‌ها انسان با هوش مصنوعی را تغییر داد و یکی از مهم‌ترین دوره‌های توسعه هوش مصنوعی مولد را آغاز کرد.